# A new table and approximation formula for the relative optial air mass

• Fritz Kasten
Article

## Summary

The mostly used table of the relative optical air massm as function of solar altitude γ (or zenith angle ϑ=90°—γ) was computed byBemporad [1, 2, 3] using values of the vertical air density profile up to 10 km height as they were known about the turn of the century, and taking the refractive index of the air at ground leveln0=1.000293; this index refers to light of wavelength 0.54 μ (peak of the visible spectrum) and to air of temperature 0°C and pressure 1013.25 mb.

A new table is presented which is computed from the air density profile of the ARDC Model Atmosphere, 1959 [4], up to 84 km height;n0=1.000276 is taken corresponding to air of 15°C and 1013.25 mb (ground level values of the ARDC Model Atmosphere, 1959) and to the wavelength 0.7 μ. This wavelength is more representative for the whole solar spectrum than 0.54 μ because it divides the solar spectrum into two parts of equal energy.

A new approximation formula for the relative optical air massm as function of solar altitude γ [deg] is presented also. The equation ism(γ)=1/[sin γ+ +α (γ+b)−c] in whicha=0.1500,b=3.885,c=1.253 are empirical constants. These constants were calculated from the new tabulated values ofm(Y) by successive approximation applying the method of least squares of the relative errors to obtain each approximation.

The values of the relative optical air mass calculated from the approximation formula are in very good agreement with the tabulated values. The deviation is less than 0.1% for γ>4 deg. The highest deviation, 1.25%, occurs at γ=0.5 deg.

The approximation formula can be applied as well to the oldBemporad table and to the table of the relative optical water vapor mass computed bySchnaidt [5]; then the constants have the valuesa=0.6556,b=6.379,c=1.757, anda=0.0548,c=2.650,c=1.452, respectively.

## Keywords

Solar Spectrum Approximation Formula Vapor Mass Solar Altitude Optical Water
These keywords were added by machine and not by the authors. This process is experimental and the keywords may be updated as the learning algorithm improves.

## Zusammenfassung

Die am meisten gebräuchliche Tabelle der relativen optischen Luftmassem als Funktion der Sonnenhöhe γ (oder Zenitdistanz ϑ=90°—γ) wurde vonBemporad [1, 2, 3] berechnet, und zwar unter Benutzung von Werten des vertikalen Luftdichteprofils bis zu 10 km Höhe, wie sie um die Jahrhundertwende bekannt waren, und mit einem Brechungsindex der Luft im Bodenniveaun0=1.000293; dieser Index bezieht sich auf Licht der Wellenlänge 0.54 μ (Maximum des sichtbaren Spektrums) und auf Luft der Temperatur 0°C und des Drucks 1013.25 mb.

Im nachfolgenden wird eine neue Tabelle vorgelegt, die aus dem Luftdichteprofil der ARDC Modell-Atmosphäre 1959 [4] bis 84 km Höhe berechnet wurde; es wurden0=1.000276 genommen entsprechend Luft von 15°C und 1013.25 mb (Bodenniveau-Werte der ARDC Modell-Atmosphäre 1959) und einer Wellenlänge von 0.7 μ. Diese Wellenlänge ist repräsentativer für das ganze Sonnenspektrum als 0.54 μ, weil sie das Sonnenspektrum in zwei Teile gleicher Energie teilt.

Eine neue Näherungsformel für die relative optische Luftmassem als Funktion der Sonnenhöhe γ [grad] wird ebenfalls vorgelegt. Die Gleichung lautetm(γ)=1/[sin γ+a(γ+b)−c], wobeia=0.1500,b=3.885,c=1.253 empirische Konstanten sind. Diese Konstanten wurden aus den neu tabellierten Werten vonm(γ) durch sukzessive Approximation berechnet, indem die Methode der kleinsten Quadrate der relativen Fehler angewandt wurde, um jede Näherung zu erhalten.

Die mit der Näherungsformel berechneten Werte der relativen optischen Luftmasse sind in sehr guter Übereinstimmung mit den tabellierten Werten. Die Abweichung ist kleiner als 0.1% für γ>4 grad. Die höchste Abweichung, 1.25%, tritt bei γ=0.5 Grad auf.

Die Näherungsformel kann ebensogut auf die alte Bemporad-Tabelle und auf die Tabelle der relativen optischen Wasserdampfmasse, die vonSchnaidt [5] berechnet wurde, angewandt werden; die Konstanten haben dann die Wertea=0.6556,b=6.379,c=1.757, bzw.a=0.0548,b=2.650,c=1.452.

## Résumé

La table calculée parBemporad [1, 2, 3] est la plus utilisée pour établir la masse optique relative de l'airm en fonction de la hauteur du soleil γ (ou angle au zénith ϑ=90°—γ). Cette table est basée sur des profils verticaux de la densité de l'air jusqu'à 10 km d'altitude tels qu'ils étaient connus au début du siècle. L'indice de réfraction au sol utilisé estn0=1,000293. Cet indice se rapporte à une longuer d'ondes de la lumière de 0,54 μ (maximum du spectre visible), à une température de 0°C et à une pression de 1013,25 mb.

On présente ici une nouvelle table calculée, elle, selon le profil de densité de l'air résultant du modèle atmosphérique ARDC 1959 [4] et atteignant 84 km d'altitude. Dans ce cas,n0=1,000276 correspondant à de l'air ayant au sol 15,0°C de température et 1013,25 mb de pression (valeurs au sol du modèle atmosphérique ARDC 1959) et à une longuer d'ondes de 0,7 μ. Cette longuer d'ondes est plus représentative que 0,54 μ pour le spectre solaire entier, car elle divise le dit spectre solaire en deux parties d'égales énergies. On présente également une formule permettant de calculer approximativement la masse optique relative de l'airm en fonction de la hauteur du soleil γ (en degrés). Cette formule a la forme:
$$m(\gamma ) = {1 \mathord{\left/ {\vphantom {1 {[\sin \gamma + a(\gamma + b)^{ - c} ]}}} \right. \kern-\nulldelimiterspace} {[\sin \gamma + a(\gamma + b)^{ - c} ]}}$$
a=0,1500,b=3,885 etc=1,253,a, b etc étant des constantes empiriques. Ces dernières furent calculées par approximations successives en partant des valeurs des nouvelles tables donnantm(γ). Pour ce faire, on a utilisé la méthode du plus petit carré de l'erreur relative afin d'obtenir chaque approximation. Les valeurs de la masse optique relative de l'air, calculées par la dite formule d'approximation, correspondent parfaitement à celles de la table. La différence en est inférieure à 0,1% pour γ>4 degrés. La plus grande différence est de 1,25% et se rencontre pour γ=0,5°.

Cette formule d'approximation peut aussi très bien être utilisée pour calculer des valeurs se rapprochant soit de l'ancienne table deBemporad, soit de la table établie parSchnaidt [5] pour la masse optique relative de la vapeur d'eau. Les constantes empiriques sont alors:a=0,6556,b=6,379,c=1,757 pour la table deBemporad, respectivementa=0,0548,b=2,650 etc=1,452 pour celle deSchnaidt.

## Preview

Unable to display preview. Download preview PDF.

## References

1. 1.
Bemporad, A.: Zur Theorie der Extinktion des Lichtes in der Erdatmosphäre. Mitt. Sternwarte Heidelberg, Nr. 4 (1904).Google Scholar
2. 2.
Bemporad, A.: Die Extinktion des Lichtes in der Erdatmosphäre. In: Handbuch der Physik, hrsg. v.A. Winkelmann, 2. Aufl., Bd.6, S. 551, Leipzig, 1906.Google Scholar
3. 3.
Bemporad, A.: Versuch einer neuen empirischen Formel zur Darstellung der Änderung der Intensität der Sonnenstrahlung mit der Zenitdistanz. Meteor. Z.24, 306–313 (1907).Google Scholar
4. 4.
Minzner, R. A., K. S. W. Champion andH. L. Pond: The ARDC Model Atmosphere, 1959. Air Force Surveys in Geophysics No. 115. Air Force Cambridge Research Center, 1959.Google Scholar
5. 5.
Schnaidt, F.: Berechnung der relativen Schichtdicken des Wasserdampfes in der Atmosphäre. Meteor. Z.55 296–299 (1938).Google Scholar
6. 6.
Linke, F.: Die Sonnenstrahlung und ihre Schwächung in der Atmosphäre. In: Handbuch der Geophysik, hrsg. v.F. Linke undF. Möller, Bd.8, S. 239–241, Berlin, 1958.Google Scholar
7. 7.
List, R. J.: Smithsonian Meteorological Tables, 6th rev. ed., p. 422, Washinton, D. C., 1951.Google Scholar
8. 8.
Möller, F. Tabellen zur atmosphärischen Strahlung und Optik. In:Linke's Meteorolog. Taschenbuch, Neue Ausgabe, hrsg. v.F. Baur, Bd.II, S. 504–505, Leipzig, 1953.Google Scholar
9. 9.
Howard, J. N., J. I. F. King andP. R. Gast: Thermal Radiation. In: Handbook of Geophysics, rev. ed. by Geophysics Research Directorate. New York, 1961.Google Scholar
10. 10.
Hulburt, E. O.: The E Region of the Ionosphere. Phys. Rev.55, 639–645 (1939).
11. 11.
Link, F., andZ. Sekera: Dioptrische Tafeln der Erdatmosphäre. Publ. Obs. nat. Prag14, 1–28 (1940).Google Scholar
12. 12.
Rossow, W. W.: Über die Berechnung der auf der Bahn eines Lichtstrahls befindlichen Luftmasse. Z. Meteor.11, 219–221 (1957).Google Scholar
13. 13.
Ely, J. T. A.: Atmospheric Depth and Effective Solid Angle for Radiation Penetrating the Atmosphere. Geophys. Res. Pap. No. 74. Air Force Cambridge Research Center, 1962.Google Scholar
14. 14.
Hofmann, G.: Zur Darstellung der spektralen Verteilung der Strahlungsenergie. Arch. Met. Geoph. Biokl. B6, 274–279 (1955).
15. 15.
Geiger, R.: Das Klima der bodennahen Luftschicht. 4. Aufl., S. 7, Braunschweig, 1961.Google Scholar
16. 16.
Campen, C. F., R. M. Cunningham andV. G. Plank: Velocity of Propagation. In: Handbook of Geophysics, rev. ed. by Geophysics Research Directorate. New York, 1961.Google Scholar
17. 17.
Heiskanen, W. A., andJ. A. Peoples: Geodesy. In: Handbook of Geophysics, rev. ed. by Geophysics Research Directorate. New York 1961.Google Scholar
18. 18.
Baur, F.: Rechnerische und mathematische Hilfsmittel des Meteorologen. In:Linke's Meteorolog. Taschenbuch, Neue Ausgabe, hrsg. v.F. Baur Bd.II, S. 163–164, Leipzig, 1953.Google Scholar