sql >> データベース >  >> RDS >> Sqlserver

SQLServer浮動小数点データ型の計算と10進数

    フロートは、15の有効数字 に対して正確です。 のみ(SQL Serverの場合)。

    これは、1.52415693411713 E+17によって示されます。 ここで、1.52415693411713 (15桁)はあなたが得るのと同じくらい正確です。最後の020... 152415693411713の後 STRを使用 <ストライク>構成 浮動小数点の解像度

    精度を保つために、floatは使用しないでください。とても簡単です。計算が必要な場合は10進数にキャストしますが、フロートにキャストバックすると 15桁に制限

    「すべてのコンピュータ科学者が浮動小数点演算について知っておくべきこと」を参照してください。 "



    1. MySQLで現在の合計を計算する

    2. MySQLでデータベースのエイリアスを作成するにはどうすればよいですか?

    3. SQLで主キーを削除する方法

    4. マルチステップSQLServerエージェントジョブ(T-SQL)を作成する