う～～～ん、エクセルの仕様かな？
- カテゴリ：パソコン/インターネット
- 2014/08/08 21:52:23
数字ＡからＢを引いた値の常用対数を取り、
＝Ａ－Ｂ（ただし、Ａ＞Ｂであるのが前提）⇒この値をＣとする。
その値を元に有効数字２桁とする切り捨てをエクセルで自動計算させる表を作りました。、
＝ＬＯＧ１０（Ｃ）⇒この値をＤとする。
常用対数の端数切り捨て
＝ＲＯＵＮＤＤＯＷＮ（Ｄ，０）⇒この値をＥとする。
Ａ-Ｂを、有効数字２桁とするための加工。
＝－（ＲＯＵＮＤＤＯＷＮ（Ｅ，０）－１）この値をＦとする。
Ｃに希釈倍率Ｇをかけた後、有効数字２桁を算出⇒この値をＸとする。
＝ＲＯＵＮＤＤＯＷＮ（Ｃ，－Ｆ）
通常、Ａ-Ｂが１で、希釈倍率も１＝原液なら、Ｘ＝１．０となるはずです。
しかし、Ａ＝８．４４＆Ｂ＝７．４４の時とＡ＝８．３６＆Ｂ＝７．３６の時、何故かＸ＝０．９に。
Ｄの値もゼロではなく、両方の組み合わせともに
Ｄ＝－３．８５７３１Ｅ－１６。
ついでに言うと、Ｇが「１」「６」「７」「８」「９」や、これらの数字が上１桁に入っているときのみ、この不思議な計算結果となるのです。
ただし、Ｄが上記の値であってもＧが「２」「３」「４」「５」の時は、Ｘが理論値通りの数字になるのです。
どなたか原因をご存じの方はいらっしゃいませんか？
