altos: Start optimizing viterbi decoder
[fw/altos] / src / core / ao_viterbi.c
1 /*
2  * Copyright © 2012 Keith Packard <keithp@keithp.com>
3  *
4  * This program is free software; you can redistribute it and/or modify
5  * it under the terms of the GNU General Public License as published by
6  * the Free Software Foundation; version 2 of the License.
7  *
8  * This program is distributed in the hope that it will be useful, but
9  * WITHOUT ANY WARRANTY; without even the implied warranty of
10  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
11  * General Public License for more details.
12  *
13  * You should have received a copy of the GNU General Public License along
14  * with this program; if not, write to the Free Software Foundation, Inc.,
15  * 59 Temple Place, Suite 330, Boston, MA 02111-1307 USA.
16  */
17
18 #include <ao_fec.h>
19 #include <stdio.h>
20
21 /*
22  * 'input' is 8-bits per symbol soft decision data
23  * 'len' is output byte length
24  */
25
26 struct ao_soft_sym {
27         uint8_t a, b;
28 };
29
30 static const struct ao_soft_sym ao_fec_decode_table[16] = {
31 /* next        0              1          state */
32         { 0x00, 0x00 }, { 0xff, 0xff }, /* 000 */
33         { 0x00, 0xff }, { 0xff, 0x00 }, /* 001 */
34         { 0xff, 0xff }, { 0x00, 0x00 }, /* 010 */
35         { 0xff, 0x00 }, { 0x00, 0xff }, /* 011 */
36         { 0xff, 0xff }, { 0x00, 0x00 }, /* 100 */
37         { 0xff, 0x00 }, { 0x00, 0xff }, /* 101 */
38         { 0x00, 0x00 }, { 0xff, 0xff }, /* 110 */
39         { 0x00, 0xff }, { 0xff, 0x00 }  /* 111 */
40 };
41
42 struct ao_soft_sym
43 ao_soft_sym(uint8_t bits)
44 {
45         struct ao_soft_sym      s;
46
47         s.a = ((bits & 2) >> 1) * 0xff;
48         s.b = (bits & 1) * 0xff;
49         return s;
50 }
51
52 uint8_t
53 ao_next_state(uint8_t state, uint8_t bit)
54 {
55         return ((state << 1) | bit) & 0x7;
56 }
57
58 static inline abs(int x) { return x < 0 ? -x : x; }
59
60 static inline uint16_t
61 ao_cost(struct ao_soft_sym a, struct ao_soft_sym b)
62 {
63         return abs(a.a - b.a) + abs(a.b - b.b);
64 }
65
66 #define NUM_STATE       8
67
68 uint8_t
69 ao_fec_decode(uint8_t *in, int len, uint8_t *out)
70 {
71         uint16_t        cost[2][NUM_STATE];
72         uint8_t         prev[len/2 + 1][NUM_STATE];
73         int             c;
74         int             i, b;
75         uint8_t         p, n;
76         uint8_t         state = 0, min_state;
77         uint8_t         bits[len/2];
78
79         p = 0;
80         for (c = 0; c < NUM_STATE; c++)
81                 cost[0][c] = 0xffff;
82         cost[0][0] = 0;
83
84         for (i = 0; i < len; i += 2) {
85                 b = i/2;
86                 n = p ^ 1;
87                 struct ao_soft_sym s = { .a = in[i], .b = in[i+1] };
88
89                 for (state = 0; state < NUM_STATE; state++)
90                         cost[n][state] = 0xffff;
91
92                 for (state = 0; state < NUM_STATE; state++) {
93                         int     zero_cost = ao_cost(s, ao_fec_decode_table[state * 2 + 0]);
94                         int     one_cost = ao_cost(s, ao_fec_decode_table[state * 2 + 1]);
95
96                         uint8_t zero_state = ao_next_state(state, 0);
97                         uint8_t one_state = ao_next_state(state, 1);
98
99                         zero_cost += cost[p][state];
100                         one_cost += cost[p][state];
101                         if (zero_cost < cost[n][zero_state]) {
102                                 prev[b+1][zero_state] = state;
103                                 cost[n][zero_state] = zero_cost;
104                         }
105
106                         if (one_cost < cost[n][one_state]) {
107                                 prev[b+1][one_state] = state;
108                                 cost[n][one_state] = one_cost;
109                         }
110                 }
111
112                 printf ("bit %3d symbol %2x %2x:", i/2, s.a, s.b);
113                 for (state = 0; state < NUM_STATE; state++) {
114                         printf (" %5d", cost[n][state]);
115                 }
116                 printf ("\n");
117                 p = n;
118         }
119
120         c = cost[p][0];
121         min_state = 0;
122         for (state = 1; state < NUM_STATE; state++) {
123                 if (cost[p][state] < c) {
124                         c = cost[p][state];
125                         min_state = state;
126                 }
127         }
128
129         for (b = len/2; b > 0; b--) {
130                 bits[b-1] = min_state & 1;
131                 min_state = prev[b][min_state];
132         }
133
134         for (i = 0; i < len/2; i += 8) {
135                 uint8_t byte;
136
137                 byte = 0;
138                 for (b = 0; b < 8; b++)
139                         byte = (byte << 1) | bits[i + b];
140                 out[i/8] = byte;
141         }
142         return len/16;
143 }