, Volume 27, Issue 3, pp 227-236

Some models of error in floating point multiplication

Rent the article at a discount

Rent now

* Final gross prices may vary according to local VAT.

Get Access

Abstract

New results are given on error in floating point multiplication. Certain choices of the base minimize the mean multiplicative error. These choices depend on which measure of error is selected. Some measures are included which were not in earlier studies. Some of the results have application to computer design.

Zusammenfassung

Es werden einige neue Resultate bezüglich des Fehlers bei der Gleitkomma-Multiplikation mitgeteilt. In Abhängigkeit vom Maß für den Fehler wird festgestellt, für welche Basen der mittlere Multiplikationsfehler minimal wird; dabei sind gegenüber früheren Untersuchungen neue Fehlermaße einbezogen worden. Ein Teil der Ergebnisse hat Nutzanwendungen auf den Computerentwurf.

Part of this work was supported by National Science Foundation Grants No. MCS77-23289 and MCS-8004231. Part of this work was performed under the auspices of the U.S. Department of Energy while in residence at the Applied Mathematics Division of Argonne National Laboratory.