フロートは、15の有効数字 に対して正確です。 のみ(SQL Serverの場合)。
これは、1.52415693411713 E+17
によって示されます。 ここで、1.52415693411713
(15桁)はあなたが得るのと同じくらい正確です。最後の020...
152415693411713
の後 STR
を使用 <ストライク>構成 浮動小数点の解像度
精度を保つために、floatは使用しないでください。とても簡単です。計算が必要な場合は10進数にキャストしますが、フロートにキャストバックすると 15桁に制限
「すべてのコンピュータ科学者が浮動小数点演算について知っておくべきこと」を参照してください。 "