sql >> データベース >  >> RDS >> Sqlserver

合計を他の数値に乗算すると精度が低下する理由

    numeric(18, 8)の集計 SUM を使用 結果はデー​​タ型numeric(38, 8)になります 。

    何かに数値を掛けたときに結果のデータ型がどのように計算されるかは、次の場所にあります。Precision 、スケール、および長さ(Transact-SQL)

    定数-1のデータ型はnumeric(1, 0)です。

    精度はp1 + p2 + 1 =40
    スケールはs1 + s2 =8

    最大精度は38であり、numeric(38, 6)が残ります。 。

    それがnumeric(38, 6)である理由についてもっと読む ここ:数値による乗算と除算



    1. BigInteger値をOracleデータベースに格納する方法

    2. PostgresCopyに大きなtxtファイルの最初の行を無視させる方法

    3. WindowsでのperlDBI-mysqlのインストールに関する問題

    4. 日付範囲によるSQLグループ化