La determinación de las distancias sobre la superficie terrestre im plica cálculos un poco más complicados que las distancias en superficies planas, que están determinadas por la geometría euclídea.
La fórmula general para determinar distancias en superficies esféricas es la llamada fórmula de Haversine. Si φ1 y λ1 son la latitud y longitud del primer observador y φ2 y λ2 la latitud y longitud del segundo observador, la distancia que los separa es
d = π * r / 90 * arc sen ( sqrt ( sen^2 (( φ2 – φ1)/2) + cos φ2 * cos φ1 * sen^2 ((λ2 – λ1)/2))
fórmula con los valores determinados para mediciones de ángulos en grados y siendo «r» el radio medio de la tierra.
Para nuestro caso, esta fórmula queda simplificada por el hecho de haber realizado las mediciones en instantes diferentes para cada observador. Este hecho nos permite eliminar la diferencia en longitud geográfica de los dos puntos de observación, ya que esta se compensa con la medición en instantes diferentes, así si hacemos λ2 – λ1 = 0 en la fórmula anterior, la fórmula anterior queda
d = π * r * (φ2 – φ1) / 180
En la determinación de la distancia tenemos ahora que tomarnos una licencia, y es que tenemos que incluir en la expresión el radio de la tierra, que es precisamente lo que queremos determinar. Esto no es admisible científicamente, pero es la salida para poder obtener la distancia sin tenerla que medirla por nosotros mismos, como hizo Eratóstenes.
Al hacer la simplificación anterior de la fórmula general, se está suponiendo que la medición de la distancia se hace sobre un meridiano (sólo varía la latitud), por ello el valor de «r» que hay que poner es el radio polar terrestre, 6357 Km.
Recogida de datos y cálculos finales
Cada observador realizará la medición de la longitud de la sombra a la hora indicada en el paso anterior según su longitud geográfica. Obtendrá dos resultados: Longitud del palo utilizado y longitud de la sombra medida. Recordar que el palo ha de situarse en posición vertical.
Con estos datos calculará en ángulo subtendido por la sombra con esta fórmula
ψ = arc tan x / D
Donde “x” es la longitud de la sombra y “D” la longitud del palo y el ángulo ψ medido en grados
Si “d” es la distancia que separa los puntos de observación y ψ2 y ψ1 los ángulos medidos en grados, con ψ2>ψ1 , el radio terrestre vendrá dado finalmente por
R = (180 * d) / (π * (ψ2 – ψ1))