本日は
JQA(日本品質保証機構）が
開催する
「はじめての不確かさ評価」
というオンライン講習を受講。
つい最近ノートパソコンを
新調したのですが、
そのせいでへそを曲げたのか
自宅のメインパソコンである
デスクトップパソコンが
まったく立ち上がらなくなりました。
データはクラウドのDropBoxで
各パソコンとデータリンクしてたので
問題ありませんでしたが
ソフトのインストール環境が
違っていたので
慌てて整えました。
そして
新ノートPCをメインに据え置き、
余ったモニターをつないで
2画面で使用するスタイルにしました。
マウスやキーボードを持ち替えず
２画面を行き来するので
なかなか快適です。
講習の中で
エクセルについて
初めて知ったことがあります。
エクセルで
123456789.1-123456789を
そのまま計算すると、
0.99999994となってしまいます。
桁数の多い計算で
このようなことが起こるそうで、
今回の対処法は引き算前に各々10掛けといて
最後に10で割ると0.1とちゃんとでました。
√3などを使う電気計算に利用していると
間違えた数値を
記載することもありそうです。
コメント