Computing

, Volume 27, Issue 3, pp 217–225 | Cite as

A remark on gradual underflow

  • W. Miller
Article
  • 31 Downloads

Abstract

Sometimes computational errors are easy to understand once all the uses, as an operand, of each computed value are known. Directed graphs provide a notational device for displaying these dependencies. Simple graph arguments show that gradual underflow improves the performance of certain computational procedures but not others. (Some procedures require deeper analysis.) Here we use graph arguments to show that if computer arithmetic is augmented with a “denormal zero”, then errors from gradual underflow are always comparable to the uncertainty due to rounding error, though the comparison involves a factor that can grow exponentially with the number of arithmetic operations. Thus for procedures where existence of a denormal zero is unnecessary and the exponential growth is impossible, gradual underflow diminishes the noise from underflow to a level that can safely be ignored.

Keywords

Computational Mathematic Exponential Growth Direct Graph Arithmetic Operation Computational Procedure 

Eine Bemerkung zum allmählichen Underflow

Zusammenfassung

Manchmal lassen sich Berechnungsfehler leicht verstehen, wenn erst einmal für jeden berechneten Wert alle Operationen bekannt sind, die mit ihm durchgeführt werden. Mit Hilfe gerichteter Graphen lassen sich diese Abhängigkeiten aufzeigen. Einfache graphentheoretische Argumente zeigen, daß allmählicher Underflow die Ausführung gewisser Rechenvorgänge verbessert, von anderen dagegen nicht. (Einige Rechenvorgänge erfordern eingehendere Untersuchungen.) Hier verwenden wir graphentheoretische Argumente, um zu zeigen, daß bei Ausstattung der Computer-Arithmetik mit einem „denormal zero” die Fehler durch allmählichen Underflow stets mit der Unsicherheit durch Rundungsfehler vergleichbar sind, obwohl dieser Vergleich einen Faktor einschließt, der exponentiell mit der Anzahl der arithmetischen Operationen wachsen kann. Für Berechungen, bei denen ein „denormal zero” unnötig und der exponentielle Anstieg unmöglich ist, vermindert allmälicher Underflow die Verfälschung durch Underflow auf ein Maß, das vernachlässigt werden kann.

Preview

Unable to display preview. Download preview PDF.

Unable to display preview. Download preview PDF.

References

  1. Coonen, J.: Underflow and denormalized numbers. Computer14, 75–87 (1981).Google Scholar
  2. Coonen, J., Kahan, W., Palmer, J., Pittman, T., Stevenson, D.: A proposed standard for binary floating-point arithmetic. Computer14, 51–62 (1981).Google Scholar
  3. Demmel, J.: Effects of underflow on solving linear systems. IEEE Floating-Point Subcommittee Working Document P754/80-4.21 (1980). (Subcommitte working documents still in print may be obtained from David Hough, PO Box 561, Cupertino, CA 95015, U.S.A.)Google Scholar
  4. Johnson, D., Miller, W., Minnihan, B., Wrathall, C.: Reducibility among floating-point graphs. JACM26, 739–760 (1979).Google Scholar
  5. Kahan, W.: Why do we need a floating-point arithmetic standard? Comm. Assoc. Comput. Mach. (to appear, 1981).Google Scholar
  6. Miller, W., Wrathall, C.: Software for Roundoff Analysis of Matrix Algorithms. Academic Press 1980.Google Scholar
  7. Wrathall, C., Miller, W.: Clearability of floating-point graphs. (Submitted, 1981.)Google Scholar

Copyright information

© Springer-Verlag 1981

Authors and Affiliations

  • W. Miller
    • 1
  1. 1.Department of Computer ScienceUniversity of ArizonaTucsonU.S.A.

Personalised recommendations