久久r热视频,国产午夜精品一区二区三区视频,亚洲精品自拍偷拍,欧美日韩精品二区

您的位置:首頁技術文章
文章詳情頁

js精準計算

瀏覽:131日期:2024-03-31 15:57:23

var numA = 0.1; var numB = 0.2; alert( numA + numB );

0.1 + 0.2 = 0.30000000000000004。計算精度誤差問題(和二進制相關)。

對于浮點數的四則運算,幾乎所有的編程語言都會有類似精度誤差的問題,只不過在 C++/C#/Java 這些語言中已經封裝好了方法來避免精度的問題,而JavaScript是一門弱類型的語言,從設計思想上就沒有對浮點數有個嚴格的數據類型,所以精度誤差的問題就顯得格外突出。

我們先把 0.1 和 0.2 轉換成二進制看看:

0.1 => 0.0001 1001 1001 1001…(無限循環)

0.2 => 0.0011 0011 0011 0011…(無限循環)

雙精度浮點數的小數部分最多支持 52 位,所以兩者相加之后得到這么一串 0.0100110011001100110011001100110011001100110011001100 因浮點數小數位的限制而截斷的二進制數字,這時候,我們再把它轉換為十進制,就成了 0.30000000000000004。

如何解決呢?

首先將數乘以10的冪次方去掉小數位得到可以轉化二進制的整數,計算之后再還原。

/** ** 除法函數,用來得到精確的除法結果 ** 說明:JavaScript的除法結果會有誤差,在兩個浮點數相除的時候會比較明顯。這個函數返回較為精確的除法結果。 ** 調用:accdiv(arg1,arg2) ** 返回值:arg1除以arg2的精確結果 **/function accdiv(arg1, arg2) { var t1 = 0, t2 = 0, r1, r2; try {t1 = arg1.toString().split('.')[1].length; } catch (e) { } try {t2 = arg2.toString().split('.')[1].length; } catch (e) { } with (Math) {r1 = Number(arg1.toString().replace('.', ''));r2 = Number(arg2.toString().replace('.', ''));return (r1 / r2) * Math.pow(10, t2 - t1); }}/** ** 加法函數,用來得到精確的加法結果 ** 說明:javascript的加法結果會有誤差,在兩個浮點數相加的時候會比較明顯。這個函數返回較為精確的加法結果。 ** 調用:accAdd(arg1,arg2) ** 返回值:arg1加上arg2的精確結果 **/function accAdd(arg1, arg2) { var r1, r2, m, c; try {r1 = arg1.toString().split('.')[1].length; } catch (e) {r1 = 0; } try {r2 = arg2.toString().split('.')[1].length; } catch (e) {r2 = 0; } c = Math.abs(r1 - r2); m = Math.pow(10, Math.max(r1, r2)); if (c > 0) {var cm = Math.pow(10, c);if (r1 > r2) { arg1 = Number(arg1.toString().replace('.', '')); arg2 = Number(arg2.toString().replace('.', '')) * cm;} else { arg1 = Number(arg1.toString().replace('.', '')) * cm; arg2 = Number(arg2.toString().replace('.', ''));} } else {arg1 = Number(arg1.toString().replace('.', ''));arg2 = Number(arg2.toString().replace('.', '')); } return (arg1 + arg2) / m;}/** ** 乘法函數,用來得到精確的乘法結果 ** 說明:javascript的乘法結果會有誤差,在兩個浮點數相乘的時候會比較明顯。這個函數返回較為精確的乘法結果。 ** 調用:accMul(arg1,arg2) ** 返回值:arg1乘以 arg2的精確結果 **/function accMul(arg1, arg2) { var m = 0, s1 = arg1.toString(), s2 = arg2.toString(); try {m += s1.split('.')[1].length; } catch (e) { } try {m += s2.split('.')[1].length; } catch (e) { } return Number(s1.replace('.', '')) * Number(s2.replace('.', '')) / Math.pow(10, m);}

以上就是js精準計算的詳細內容,更多關于js精準計算的資料請關注好吧啦網其它相關文章!

標簽: JavaScript
相關文章:
主站蜘蛛池模板: 库伦旗| 罗山县| 延长县| 普安县| 无锡市| 凯里市| 桦南县| 博罗县| 郸城县| 秦安县| 尉犁县| 广河县| 兰坪| 舟曲县| 博罗县| 灵川县| 综艺| 荔浦县| 雅江县| 长葛市| 阜城县| 石泉县| 张家口市| 宜阳县| 南靖县| 安徽省| 大同县| 石渠县| 林州市| 滦南县| 堆龙德庆县| 福鼎市| 县级市| 通榆县| 泸州市| 元江| 衢州市| 佛教| 五大连池市| 慈利县| 潜江市|