git.gag.com Git - fw/altos/blob - src/util/make-altitude-pa

   1 #!/usr/bin/nickle -f
   2 /*
   3  * Pressure Sensor Model, version 1.1
   4  *
   5  * written by Holly Grimes
   6  *
   7  * Uses the International Standard Atmosphere as described in
   8  *   "A Quick Derivation relating altitude to air pressure" (version 1.03)
   9  *    from the Portland State Aerospace Society, except that the atmosphere
  10  *    is divided into layers with each layer having a different lapse rate.
  11  *
  12  * Lapse rate data for each layer was obtained from Wikipedia on Sept. 1, 2007
  13  *    at site <http://en.wikipedia.org/wiki/International_Standard_Atmosphere
  14  *
  15  * Height measurements use the local tangent plane.  The postive z-direction is up.
  16  *
  17  * All measurements are given in SI units (Kelvin, Pascal, meter, meters/second^2).
  18  *   The lapse rate is given in Kelvin/meter, the gas constant for air is given
  19  *   in Joules/(kilogram-Kelvin).
  20  */
  21
  22 const real GRAVITATIONAL_ACCELERATION = -9.80665;
  23 const real AIR_GAS_CONSTANT = 287.053;
  24 const int NUMBER_OF_LAYERS = 7;
  25 const real MAXIMUM_ALTITUDE = 84852;
  26 const real MINIMUM_PRESSURE = 0.3734;
  27 const real LAYER0_BASE_TEMPERATURE = 288.15;
  28 const real LAYER0_BASE_PRESSURE = 101325;
  29
  30 /* lapse rate and base altitude for each layer in the atmosphere */
  31 const real[NUMBER_OF_LAYERS] lapse_rate = {
  32         -0.0065, 0.0, 0.001, 0.0028, 0.0, -0.0028, -0.002,
  33 };
  34 const int[NUMBER_OF_LAYERS] base_altitude = {
  35         0, 11000, 20000, 32000, 47000, 51000, 71000,
  36 };
  37
  38
  39 /* outputs atmospheric pressure associated with the given altitude. altitudes
  40    are measured with respect to the mean sea level */
  41 real altitude_to_pressure(real altitude) {
  42
  43    real base_temperature = LAYER0_BASE_TEMPERATURE;
  44    real base_pressure = LAYER0_BASE_PRESSURE;
  45
  46    real pressure;
  47    real base; /* base for function to determine pressure */
  48    real exponent; /* exponent for function to determine pressure */
  49    int layer_number; /* identifies layer in the atmosphere */
  50    int delta_z; /* difference between two altitudes */
  51
  52    if (altitude > MAXIMUM_ALTITUDE) /* FIX ME: use sensor data to improve model */
  53       return 0;
  54
  55    /* calculate the base temperature and pressure for the atmospheric layer
  56       associated with the inputted altitude */
  57    for(layer_number = 0; layer_number < NUMBER_OF_LAYERS - 2 && altitude > base_altitude[layer_number + 1]; layer_number++) {
  58       delta_z = base_altitude[layer_number + 1] - base_altitude[layer_number];
  59       if (lapse_rate[layer_number] == 0.0) {
  60          exponent = GRAVITATIONAL_ACCELERATION * delta_z
  61               / AIR_GAS_CONSTANT / base_temperature;
  62          base_pressure *= exp(exponent);
  63       }
  64       else {
  65          base = (lapse_rate[layer_number] * delta_z / base_temperature) + 1.0;
  66          exponent = GRAVITATIONAL_ACCELERATION /
  67               (AIR_GAS_CONSTANT * lapse_rate[layer_number]);
  68          base_pressure *= pow(base, exponent);
  69       }
  70       base_temperature += delta_z * lapse_rate[layer_number];
  71    }
  72
  73    /* calculate the pressure at the inputted altitude */
  74    delta_z = altitude - base_altitude[layer_number];
  75    if (lapse_rate[layer_number] == 0.0) {
  76       exponent = GRAVITATIONAL_ACCELERATION * delta_z
  77            / AIR_GAS_CONSTANT / base_temperature;
  78       pressure = base_pressure * exp(exponent);
  79    }
  80    else {
  81       base = (lapse_rate[layer_number] * delta_z / base_temperature) + 1.0;
  82       exponent = GRAVITATIONAL_ACCELERATION /
  83            (AIR_GAS_CONSTANT * lapse_rate[layer_number]);
  84       pressure = base_pressure * pow(base, exponent);
  85    }
  86
  87    return pressure;
  88 }
  89
  90
  91 /* outputs the altitude associated with the given pressure. the altitude
  92    returned is measured with respect to the mean sea level */
  93 real pressure_to_altitude(real pressure) {
  94
  95    real next_base_temperature = LAYER0_BASE_TEMPERATURE;
  96    real next_base_pressure = LAYER0_BASE_PRESSURE;
  97
  98    real altitude;
  99    real base_pressure;
 100    real base_temperature;
 101    real base; /* base for function to determine base pressure of next layer */
 102    real exponent; /* exponent for function to determine base pressure
 103                              of next layer */
 104    real coefficient;
 105    int layer_number; /* identifies layer in the atmosphere */
 106    int delta_z; /* difference between two altitudes */
 107
 108    if (pressure < 0)  /* illegal pressure */
 109       return -1;
 110    if (pressure < MINIMUM_PRESSURE) /* FIX ME: use sensor data to improve model */
 111       return MAXIMUM_ALTITUDE;
 112
 113    /* calculate the base temperature and pressure for the atmospheric layer
 114       associated with the inputted pressure. */
 115    layer_number = -1;
 116    while (layer_number < NUMBER_OF_LAYERS - 2) {
 117       layer_number++;
 118       base_pressure = next_base_pressure;
 119       base_temperature = next_base_temperature;
 120       delta_z = base_altitude[layer_number + 1] - base_altitude[layer_number];
 121       if (lapse_rate[layer_number] == 0.0) {
 122          exponent = GRAVITATIONAL_ACCELERATION * delta_z
 123               / AIR_GAS_CONSTANT / base_temperature;
 124          next_base_pressure *= exp(exponent);
 125       }
 126       else {
 127          base = (lapse_rate[layer_number] * delta_z / base_temperature) + 1.0;
 128          exponent = GRAVITATIONAL_ACCELERATION /
 129               (AIR_GAS_CONSTANT * lapse_rate[layer_number]);
 130          next_base_pressure *= pow(base, exponent);
 131       }
 132       next_base_temperature += delta_z * lapse_rate[layer_number];
 133       if (pressure >= next_base_pressure)
 134               break;
 135    }
 136
 137    /* calculate the altitude associated with the inputted pressure */
 138    if (lapse_rate[layer_number] == 0.0) {
 139       coefficient = (AIR_GAS_CONSTANT / GRAVITATIONAL_ACCELERATION)
 140                                                     * base_temperature;
 141       altitude = base_altitude[layer_number]
 142                     + coefficient * log(pressure / base_pressure);
 143    }
 144    else {
 145       base = pressure / base_pressure;
 146       exponent = AIR_GAS_CONSTANT * lapse_rate[layer_number]
 147                                        / GRAVITATIONAL_ACCELERATION;
 148       coefficient = base_temperature / lapse_rate[layer_number];
 149       altitude = base_altitude[layer_number]
 150                       + coefficient * (pow(base, exponent) - 1);
 151    }
 152    return altitude;
 153 }
 154
 155 /*
 156  * Values for our MS5607
 157  *
 158  * From the data sheet:
 159  *
 160  * Pressure range: 10-1200 mbar (1000 - 120000 Pa)
 161  *
 162  * Pressure data is reported in units of Pa
 163  */
 164
 165 typedef struct {
 166         real m, b;
 167 } line_t;
 168
 169 /*
 170  * Linear least-squares fit values in the specified array
 171  */
 172 line_t best_fit(real[] values, int first, int last) {
 173        real sum_x = 0, sum_x2 = 0, sum_y = 0, sum_xy = 0;
 174        int n = last - first + 1;
 175        real m, b;
 176
 177        for (int i = first; i <= last; i++) {
 178                sum_x += i;
 179                sum_x2 += i**2;
 180                sum_y += values[i];
 181                sum_xy += values[i] * i;
 182        }
 183        m = (n*sum_xy - sum_y*sum_x) / (n*sum_x2 - sum_x**2);
 184        b = sum_y/n - m*(sum_x/n);
 185        return (line_t) { m = m, b = b };
 186 }
 187
 188 real    min_Pa = 0;
 189 real    max_Pa = 120000;
 190
 191 /* Target is an array of < 1000 entries */
 192 int pa_sample_shift = 2;
 193 int pa_part_shift = 6;
 194 int pa_part_mask = (1 << pa_part_shift) - 1;
 195
 196 int num_part = ceil(max_Pa / (2 ** (pa_part_shift + pa_sample_shift)));
 197
 198 int num_samples = num_part << pa_part_shift;
 199
 200 real sample_to_Pa(int sample) = sample << pa_sample_shift;
 201
 202 real sample_to_altitude(int sample) = pressure_to_altitude(sample_to_Pa(sample));
 203
 204 int part_to_sample(int part) = part << pa_part_shift;
 205
 206 int sample_to_part(int sample) = sample >> pa_part_shift;
 207
 208 bool is_part(int sample) = (sample & pa_part_mask) == 0;
 209
 210 real[num_samples] alt = { [n] = sample_to_altitude(n) };
 211
 212 int seg_len = 1 << pa_part_shift;
 213
 214 line_t [num_part] fit = {
 215         [n] = best_fit(alt, n * seg_len, n * seg_len + seg_len - 1)
 216 };
 217
 218 real[num_samples/seg_len + 1]   alt_part;
 219 real[dim(alt_part)]             alt_error = {0...};
 220
 221 alt_part[0] = fit[0].b;
 222 alt_part[dim(fit)] = fit[dim(fit)-1].m * dim(fit) * seg_len + fit[dim(fit)-1].b;
 223
 224 for (int i = 0; i < dim(fit) - 1; i++) {
 225         real    here, there;
 226         here = fit[i].m * (i+1) * seg_len + fit[i].b;
 227         there = fit[i+1].m * (i+1) * seg_len + fit[i+1].b;
 228 #       printf ("at %d mis-fit %8.2f\n", i, there - here);
 229         alt_part[i+1] = (here + there) / 2;
 230 }
 231
 232 real round(real x) = floor(x + 0.5);
 233
 234 real sample_to_fit_altitude(int sample) {
 235         int     sub = sample // seg_len;
 236         int     off = sample % seg_len;
 237         line_t  l = fit[sub];
 238         real r_v;
 239         real i_v;
 240
 241         r_v = sample * l.m + l.b;
 242         i_v = (round(alt_part[sub]*10) * (seg_len - off) + round(alt_part[sub+1]*10) * off) / seg_len;
 243         return i_v/10;
 244 }
 245
 246 real max_error = 0;
 247 int max_error_sample = 0;
 248 real total_error = 0;
 249
 250 for (int sample = 0; sample < num_samples; sample++) {
 251         real    Pa = sample_to_Pa(sample);
 252         real    meters = alt[sample];
 253
 254         real    meters_approx = sample_to_fit_altitude(sample);
 255         real    error = abs(meters - meters_approx);
 256
 257         int     part = sample_to_part(sample);
 258
 259         if (error > alt_error[part])
 260                 alt_error[part] = error;
 261
 262         total_error += error;
 263         if (error > max_error) {
 264                 max_error = error;
 265                 max_error_sample = sample;
 266         }
 267         if (false) {
 268                 printf ("       %8.1f %8.2f %8.2f %8.2f %s\n",
 269                         Pa,
 270                         meters,
 271                         meters_approx,
 272                         meters - meters_approx,
 273                         is_part(sample) ? "*" : "");
 274         }
 275 }
 276
 277 printf ("/*max error %f at %7.3f kPa. Average error %f*/\n",
 278         max_error, sample_to_Pa(max_error_sample) / 1000, total_error / num_samples);
 279
 280 printf ("#define NALT %d\n", dim(alt_part));
 281 printf ("#define ALT_SHIFT %d\n", pa_part_shift + pa_sample_shift);
 282 printf ("#ifndef AO_ALT_VALUE\n#define AO_ALT_VALUE(x) (alt_t) (x)\n#endif\n");
 283
 284 for (int part = 0; part < dim(alt_part); part++) {
 285         real kPa = sample_to_Pa(part_to_sample(part)) / 1000;
 286         printf ("AO_ALT_VALUE(%10.1f), /* %6.2f kPa error %6.2fm */\n",
 287                 round (alt_part[part]*10) / 10, kPa,
 288                 alt_error[part]);
 289 }