2017年5月
  1 2 3 4 5 6
7 8 9 10 11 12 13
14 15 16 17 18 19 20
21 22 23 24 25 26 27
28 29 30 31      

ウェブページ

無料ブログはココログ

« ジェットストリームからスタイルフィットに | トップページ | 世界一わかりやすい カメラ ミエ講座 第6回【絞り開放】.50mm F 1.4 の絞り値 / minolta MD 50/1.4 »

2013年6月22日 (土)

tan ( 355 / 226 ) 考 その2 / 関数電卓で tan ( 355 / 226 ) を考える

tan ( 355 / 226 ) 考 その2 / 関数電卓で tan ( 355 / 226 ) を考える

Canon F-720i

sin ( 355 / 226 ) と打つと,このように返す.

-------------------------

この関数電卓

sin ( 355 / 226 ) (← 分数入力)

と打つと 帯分数で 0と1分の1

つまり 1 を変な型式で返す.

バグっちゃ バグなのだろう.

ちなみに,同じように分数で入力しようとすると内部では整数でしか保持出来ない.
普通に入力しても上記写真のような帯分数とはならないのだ.

面白い事にサイエンスモード SCI で演算させても,E型式にならないのだ.帯分数のままである.
もっともこれはそういう仕様のようだが,こういう演算の答えを変な分数で返すのはバグであろう.

現行モデルの F-789SG もサイエンスモードで分数で保持し,分数で表示する体質だが,(数値にもよるが.)上記の演算の答えは当然 1 を返す.

一応 F-720i の答えは合っているので バグなどどうでもよいのだが,この電卓は,過去に書いたようにえらく精度が高いのだ.
素直に 1 を返さなかったので,もしやと思い PC に登場願った次第だ.

PC の関数電卓は,

0.999 999 999 999 991・・・

と 9 が 14桁になるが,循環少数ではない.

続く.


   
   
   

« ジェットストリームからスタイルフィットに | トップページ | 世界一わかりやすい カメラ ミエ講座 第6回【絞り開放】.50mm F 1.4 の絞り値 / minolta MD 50/1.4 »

Calculators」カテゴリの記事

コメント

コメントを書く

(ウェブ上には掲載しません)

トラックバック

この記事のトラックバックURL:
http://app.f.cocolog-nifty.com/t/trackback/1099765/52141490

この記事へのトラックバック一覧です: tan ( 355 / 226 ) 考 その2 / 関数電卓で tan ( 355 / 226 ) を考える:

« ジェットストリームからスタイルフィットに | トップページ | 世界一わかりやすい カメラ ミエ講座 第6回【絞り開放】.50mm F 1.4 の絞り値 / minolta MD 50/1.4 »