Computing

, Volume 34, Issue 4, pp 325–347

On roundoff error distributions in floating point and logarithmic arithmetic

  • J. L. Barlow
  • E. H. Bareiss
Article

DOI: 10.1007/BF02251833

Cite this article as:
Barlow, J.L. & Bareiss, E.H. Computing (1985) 34: 325. doi:10.1007/BF02251833

Abstract

Probabilistic models of floating point and logarithmic arithmetic are constructed using assumptions with both theoretical and empirical justification. The justification of these assumptions resolves open questions in Hamming (1970) and Bustoz et al. (1979).

These models are applied to errors from sums and inner products.

A comparison is made between the error analysis properties of floating point and logarithmic computers. We conclude that the logarithmic computer has smaller error confidence intervals for roundoff errors than a floating point computer with the same computer word size and approximately the same number range.

AMS Subject Classification

65G Key words and phrases Roundoff error distribution floating point arithmetic logarithmic computers 

Über Rundungsfehlerverteilungen bei Gleitkomma- und logarithmischer Arithmetik

Zusammenfassung

Unter Zugrundelegung von sowohl theoretisch als auch empirisch gerechtfertigter Annahmen wird ein stochastisches Modell der Gleitkomma- und der logarithmischen Arithmetik konstruiert. Die Rechtfertigung dieser Annahmen löst offene Fragen bei Hamming (1970) und Bustoz et al. (1979).

Diese Modelle werden auf die Fehler von Summen und inneren Produkten angewendet.

Es wird ein Vergleich zwischen den Eigenschaften von Gleitkomma- und logarithmischen Rechnern hinsichtlich ihrer Fehleranalyse angestellt. Wir kommen zu dem Schluß, daß der logarithmische Rechner kleinere Fehlerkonfidenzintervalle für die Rundungsfehler aufweist als ein Gleitkommarechner mit der gleichen Wortlänge und dem annähernd gleichen Zahlenbereich.

Copyright information

© Springer-Verlag 1985

Authors and Affiliations

  • J. L. Barlow
    • 1
  • E. H. Bareiss
    • 2
  1. 1.Computer Science DepartmentThe Pennsylvania State UniversityUniversity ParkUSA
  2. 2.Department of Electrical Engineering and Computer ScienceNorthwestern UniversityEvanstonUSA