JavaScript计算丢失精度问题

作者 : 开心源码 本文共2649个字,预计阅读时间需要7分钟 发布时间: 2022-05-12 共266人阅读

js中计算

0.1+0.2 = 0.30000000000000004655.4222/100.0 = 6.5542219999999991.0-0.9 = 0.0999999999999999865.4*100 = 6540.000000000001

处理上述问题,找到了一个最简便的方法

https://blog.csdn.net/zf18234031156/article/details/81065431

可是,

image

出现上述问题了又

假如用的vue可以参考下这个
nefe/number-precision

一下是修改之后的方法

var CMX = CMX || {}/** ** 加 **/CMX.add = function (arg1, arg2) {    arg1 = arg1 !== undefined && arg1 !== '' ? parseFloat(arg1) : 0    arg2 = arg2 !== undefined && arg2 !== '' ? parseFloat(arg2) : 0    var r1, r2, m, c    try {        r1 = arg1.toString().split(".")[1].length    } catch (e) {        r1 = 0    }    try {        r2 = arg2.toString().split(".")[1].length    } catch (e) {        r2 = 0    }    c = Math.abs(r1 - r2)    m = Math.pow(10, Math.max(r1, r2))    if (c > 0) {        var cm = Math.pow(10, c)        if (r1 > r2) {            arg1 = Number(arg1.toString().replace(".", ""))            arg2 = Number(arg2.toString().replace(".", "")) * cm        } else {            arg1 = Number(arg1.toString().replace(".", "")) * cm            arg2 = Number(arg2.toString().replace(".", ""))        }    } else {        arg1 = Number(arg1.toString().replace(".", ""))        arg2 = Number(arg2.toString().replace(".", ""))    }    return (arg1 + arg2) / m}/** ** 减 **/CMX.sub = function (arg1, arg2) {    arg1 = arg1 !== undefined && arg1 !== '' ? parseFloat(arg1) : 0    arg2 = arg2 !== undefined && arg2 !== '' ? parseFloat(arg2) : 0    var r1, r2, m, n    try {        r1 = arg1.toString().split(".")[1].length    } catch (e) {        r1 = 0    }    try {        r2 = arg2.toString().split(".")[1].length    } catch (e) {        r2 = 0    }    m = Math.pow(10, Math.max(r1, r2)) //last modify by deeka //动态控制精度长度    n = (r1 >= r2) ? r1 : r2    return Number(((arg1 * m - arg2 * m) / m).toFixed(n))}/** ** 乘 **/CMX.mul = function (arg1, arg2) {    arg1 = arg1 !== undefined && arg1 !== '' ? parseFloat(arg1) : 0    arg2 = arg2 !== undefined && arg2 !== '' ? parseFloat(arg2) : 0    if (arg1 === 0 || arg2 === 0) {        return 0    }    var m = 0, s1 = arg1.toString(), s2 = arg2.toString()    try {        m += s1.split(".")[1].length    } catch (e) {    }    try {        m += s2.split(".")[1].length    } catch (e) {    }    return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m)}/** ** 除 **/CMX.div = function (arg1, arg2) {    let t1 = 0, t2 = 0, t3, r1 = 0, r2 = 0, r3, r4    if (String(arg1) === '' || String(arg2) === '' || parseFloat(arg1) === 0 || parseFloat(arg2) === 0) return 0    try {        // 不存在小数点        let pointIndex1 = String(arg1).indexOf(".")        arg1 = parseFloat(arg1)        t1 = pointIndex1 === -1 || String(arg1).charAt(pointIndex1 + 1).length === 0 ? 0 : String(arg1).split(".")[1].length        if (t1 !== 0) {            r1 = String(parseFloat(arg1)).replace(".","")        } else {            r1 = parseFloat(arg1)        }    } catch (e) {        console.error(e)    }    try {        let pointIndex2 = String(arg2).indexOf(".")        arg2 = parseFloat(arg2)        t2 = String(arg2).indexOf(".") === -1 || String(arg2).charAt(pointIndex2 + 1).length === 0 ? 0 : String(arg2).split(".")[1].length        if (t2 !== 0) {            r2 = String(parseFloat(arg2)).replace(".","")        } else {            r2 = parseFloat(arg2)        }    } catch (e) {        console.error(e)    }    r3 = r1 / r2    t3 = String(r3).indexOf(".") === -1 ? 0 : String(r3).split(".")[1].length    r4 = String(parseFloat(r3)).replace(".","")    if (t2 > t1) {        return (r4 * Math.pow(10, t2 - t1)) / Math.pow(10, t3)    } else if (t2 < t1) {        return r4 / Math.pow(10, t1 - t2 + t3)    } else {        return r3    }}

欢迎测试一下

说明
1. 本站所有资源来源于用户上传和网络,如有侵权请邮件联系站长!
2. 分享目的仅供大家学习和交流,您必须在下载后24小时内删除!
3. 不得使用于非法商业用途,不得违反国家法律。否则后果自负!
4. 本站提供的源码、模板、插件等等其他资源,都不包含技术服务请大家谅解!
5. 如有链接无法下载、失效或广告,请联系管理员处理!
6. 本站资源售价只是摆设,本站源码仅提供给会员学习使用!
7. 如遇到加密压缩包,请使用360解压,如遇到无法解压的请联系管理员
开心源码网 » JavaScript计算丢失精度问题

发表回复