altos: Make sure pa to altitude conversion is done with 32 bits
[fw/altos] / src / core / ao_convert_pa.c
index 2793b77cfad2a948370fc02baf98f8c15c7d45be..fe6e0ef699b803de2b6109e088ee638ac1be0431 100644 (file)
@@ -43,16 +43,17 @@ ao_pa_to_altitude(int32_t pa)
 
        if (pa < 0)
                pa = 0;
-       if (pa > 120000)
-               pa = 120000;
+       if (pa > 120000L)
+               pa = 120000L;
        o = pa >> ALT_SHIFT;
        part = pa & ALT_MASK;
 
-       low = (alt_t) FETCH_ALT(o) * (ALT_SCALE - part);
-       high = (alt_t) FETCH_ALT(o+1) * part + (ALT_SCALE >> 1);
+       low = (int32_t) FETCH_ALT(o) * (ALT_SCALE - part);
+       high = (int32_t) FETCH_ALT(o+1) * part + (ALT_SCALE >> 1);
        return (low + high) >> ALT_SHIFT;
 }
 
+#ifdef AO_CONVERT_TEST
 int32_t
 ao_altitude_to_pa(int32_t alt)
 {
@@ -78,3 +79,4 @@ ao_altitude_to_pa(int32_t alt)
                pa = 0;
        return pa;
 }
+#endif