NetscapeとExplorerの演算精度の違い



 同じ機種であってもMathオブジェクトや通常の数値演算の精度がNetscapeとExplorerで異なっています。
Macintosh版のNetscapeの場合、68K MacとpowerMacでは演算結果が異なります。下記の例のMath.tans(S)をpowerMacで演算させるとinfinity(無限大)が返ってきます。精度を要求するプログラムを作成する場合は気を付けた方がよいでしょう。


Netscape 3Explorer 3
Math.acos(N)1.1484031742418151.14840317424182
Math.asin(N).42239315255308150.422393152553082
Math.atan(N).389049669511866150.389049669511866
Math.cos(N).91714296636394950.91714296636395
Math.E2.7182818284590452.71828182845905
Math.exp(4)54.59815003314423654.5981500331442
Math.LN102.3025850929940462.30258509299405
Math.log(2).69314718055994530.693147180559945
Math.LOG10E.43429448190325180.434294481903252
Math.LOG2E1.44269504088896341.44269504088896
Math.PI3.1415926535897933.14159265358979
Math.sin(N).398558376212488130.398558376212488
Math.sqrt(123.456)11.11107555549866711.1110755554987
Math.SQRT1_2.70710678118654760.707106781186548
Math.SQRT21.41421356237309511.4142135623731
Math.tan(S)163317787283838441.63317787283838E+16
N = .4099444444444445
S = 1.5707963267948966