2017年5月
  1 2 3 4 5 6
7 8 9 10 11 12 13
14 15 16 17 18 19 20
21 22 23 24 25 26 27
28 29 30 31      

ウェブページ

無料ブログはココログ

« 日米関数電卓対決・キヤノン参戦 / Canon F-789SG | トップページ | 日米関数電卓対決 本編5 計算精度2,一番乗りは? / Canon F-720i »

2012年12月31日 (月)

日米関数電卓対決 本編5 計算精度 / Canon F-789SG

日米関数電卓対決 計算精度18桁と22秒 / Canon F-789SG


キヤノン F-789SGに計算させてみたところ.

-------------------------

tan(355/226)(← RAD モード)
-7497258.185(← 正解Ⅰ.)

これは既に発表されている.


モードをラジアンに切り替え忘れた〜 と気付いた時に打ち込む数値
*(180/π)
を試してみる.

tan((355/226)*(180/π))(← DEG モード )

-7497258.185(← 正解Ⅱ.)

と,これも正解を返した.
この場合,数式に意味なくなるかどうかは知らない.
大抵の関数電卓では下2桁程度はさらに精度が落ちるものだがコイツは10桁の精度で正解を返してくる.

上記ⅠとⅡの差を比較したのがトップ画像.

答え:
-7.45744737×10^-5

を返した.という事は 11桁まで合っている可能性が高い.



それでは,と

-7497258.185 325 587 112 905 071 83(← voidware_torture test)
-7497258.185 325 587 112 905 071 831 891 2(←win電卓 ver.6.1)
-7497258.185 325 587 112 905 071...(←このあたりまでは正解として良いだろう.)
-7497258.185 393 664 846 1 (← 789SG,rad)
-7497258.185 319 090 372 4 (← 789SG,deg_*(180/π))

どちらでも11桁まで正解している.お見事.


と,ここで立ち止まってみる.

この数値は...

Canon F-789SG の血統は...


これは年を跨ぐね.

« 日米関数電卓対決・キヤノン参戦 / Canon F-789SG | トップページ | 日米関数電卓対決 本編5 計算精度2,一番乗りは? / Canon F-720i »

Calculators」カテゴリの記事

コメント

コメントを書く

(ウェブ上には掲載しません)

トラックバック

この記事のトラックバックURL:
http://app.f.cocolog-nifty.com/t/trackback/1099765/48540897

この記事へのトラックバック一覧です: 日米関数電卓対決 本編5 計算精度 / Canon F-789SG:

« 日米関数電卓対決・キヤノン参戦 / Canon F-789SG | トップページ | 日米関数電卓対決 本編5 計算精度2,一番乗りは? / Canon F-720i »