Algoritmi utilizzati per il calcolo della correzione delle altezze misurate con il sestante

Calcolo dell'altezza osservata

ho = hi + c + γ
dove:
hi = altezza strumentale misurata con il sestante
c = correzione dello strumento
γ = correzione d'indice

Calcolo della rifrazione astronomica con pressione atmosferica a 1010 millibar ed una temperatura di 10° Celsius
(formula di Bennett)

1
R =   --------------------------------------
                  7.31
        tan ( ho + ------------ )
                    ho + 4.4

La altezza osservata va inserita in gradi decimali ma il risultato della rifrazione astronomica è espresso in primi d'arco

Correzione della rifrazione astronomica in funzione della pressione atmosferica e della temperatura esterna

correzione = (P / 1010) x (283 / (273 + T ))

P è la pressione atmosferica espressa in millibar e T è la temperatura esterna espressa in gradi celsius

Calcolo della rifrazione astronomica corretta

Rifrazione corretta = R x correzione

Il risultato è espresso in primi d'arco ed è poi convertito in gradi dividendolo per 60

Calcolo della correzione delle altezze vere di stella, pianeta, Sole e Luna

(ho=Altezza Osservata; Q=Quota media sul livello del mare; R=Rifrazione atmosferica; P=Parallasse; Sd=Semidiametro del Sole o della Luna; φ=Latitudine dell'osservatore)

Altezza vera di stella
hv = ho - 0,03 × (√Q) - R

Altezza vera di pianeta
hv = ho - 0,03 × (√Q) - R + arcsen {[0,9983271 + 0,0016764 × cos (2 × φ) - 0,0000035 × cos (4 × φ)] × sen P × cos (ho - 0,03 × (√Q) - R)}

Altezza vera di Sole o Luna
hv = ho - 0,03 × (√Q) - R ± Sd × {1 + sen [ho - 0,03 × (√Q) - R] × sen P} + arcsen {[0,9983271 + 0,0016764 × cos (2 × φ) - 0,0000035 × cos (4 × φ)] × sen P × cos (ho - 0,03 × (√Q) - R)}