Article

Computing

, Volume 34, Issue 4, pp 325-347

On roundoff error distributions in floating point and logarithmic arithmetic

  • J. L. BarlowAffiliated withComputer Science Department, The Pennsylvania State University
  • , E. H. BareissAffiliated withDepartment of Electrical Engineering and Computer Science, Northwestern University

Rent the article at a discount

Rent now

* Final gross prices may vary according to local VAT.

Get Access

Abstract

Probabilistic models of floating point and logarithmic arithmetic are constructed using assumptions with both theoretical and empirical justification. The justification of these assumptions resolves open questions in Hamming (1970) and Bustoz et al. (1979).

These models are applied to errors from sums and inner products.

A comparison is made between the error analysis properties of floating point and logarithmic computers. We conclude that the logarithmic computer has smaller error confidence intervals for roundoff errors than a floating point computer with the same computer word size and approximately the same number range.

AMS Subject Classification

65G Key words and phrases Roundoff error distribution floating point arithmetic logarithmic computers

Über Rundungsfehlerverteilungen bei Gleitkomma- und logarithmischer Arithmetik

Zusammenfassung

Unter Zugrundelegung von sowohl theoretisch als auch empirisch gerechtfertigter Annahmen wird ein stochastisches Modell der Gleitkomma- und der logarithmischen Arithmetik konstruiert. Die Rechtfertigung dieser Annahmen löst offene Fragen bei Hamming (1970) und Bustoz et al. (1979).

Diese Modelle werden auf die Fehler von Summen und inneren Produkten angewendet.

Es wird ein Vergleich zwischen den Eigenschaften von Gleitkomma- und logarithmischen Rechnern hinsichtlich ihrer Fehleranalyse angestellt. Wir kommen zu dem Schluß, daß der logarithmische Rechner kleinere Fehlerkonfidenzintervalle für die Rundungsfehler aufweist als ein Gleitkommarechner mit der gleichen Wortlänge und dem annähernd gleichen Zahlenbereich.