December 10th, 2018

lenin

А функции у БЭСМ-6 такие добрые-добрые

Или вот ещё, чтобы математики не плакали, когда в их формулах внезапно случался бы аварийный останов при взятии логарифма от нуля или при делении на нуль, если в результате вычислений получается плавающий 0.0, а не должен был:

CИCTEMA AЛГOЛ-БЭCM6. BAPИAHT 01-05-79.

   1.   _BEGIN OUTPUT(‘E’, EXP(LN(0.0)), ‘E’, SQRT(0.0)) _END


.2710505431⏨-19 .1646361270⏨-09


Число 0.2710505431⏨-19 - это 2-65, наименьшее по модулю представимое нормализованное число.
0.1646361270⏨-09 - это корень из него.
Использован АЛГОЛ, потому что он печатает красивые десяточки. Если в АЛГОЛе возвести sqrt(0.0) в квадрат, получается ноль, а в Фортране - те же .2710505431E-19. Ну, округление и на минус бывает, и на плюс-минус бывает (this obscure reference is for those who remember various character encodings).

This entry was originally posted at https://spamsink.dreamwidth.org/1103823.html. Please comment there using OpenID.