Плавающая точка такая плавающая

Изобретение стандартного формата компьютерного представления чисел с плавающей точкой (IEEE-754) и спецификация операций с ними - величайшее счастье для всех прикладных математиков мира.

В доисторические времена могло быть так:

  001               PROGRAM MAIN
  002               I = 0
  003               B = -1.0E-10
  004               C = I+B
  005               PRINT 20,B,C
  006            20 FORMAT(1X2E20.12)
  007               END
           *EXECUTE
   -1.000000000000-10  -1.000444171950-10

И это не ошибка, а прямое следствие из механизма работы арифметического устройства. Попробуйте объяснить явление.

This entry was originally posted at https://spamsink.dreamwidth.org/1105540.html. Please comment there using OpenID.