JavaScript JS高精度计算方法与库推荐,数值运算误差


JavaScript JS高精度计算方法与库推荐,数值运算误差

在 JavaScript 中,由于浮点数的存储和计算是基于 IEEE 754 标准,有时会出现一些计算误差,尤其是对于小数的加减运算。

问题分析

浮点数 652.8 - 650 可能会得到一个不完全准确的结果,例如:

Markup 全选
console.log(652.8 - 650); // 输出 2.7999999999999545

这并不是 JavaScript 的 bug,而是因为浮点数在二进制表示中有精度限制。某些十进制的小数在二进制中无法精确表示,因此会导致这种误差。

如何解决

为了避免这种误差,可以使用以下方法:

1. 四舍五入

可以通过 toFixedMath.round 来限制小数位数,确保结果符合预期。

JavaScript 全选
let result = 652.8 - 650;
console.log(result.toFixed(2)); // 输出 "2.80"

如果需要数字类型的结果,可以使用 parseFloat

JavaScript 全选
let result = 652.8 - 650;
console.log(parseFloat(result.toFixed(2))); // 输出 2.8

2. 整数化处理

在计算前将浮点数转为整数,进行运算后再除以相应的倍数。

JavaScript 全选
let a = 652.8 * 10; // 变为 6528
let b = 650 * 10;   // 变为 6500
let result = (a - b) / 10; // 再除以 10
console.log(result); // 输出 2.8

这种方法非常适合需要高精度运算的场景。

3. 使用第三方库

如果你需要进行大量的浮点数计算,并且对精度要求非常高,可以使用像 decimal.jsbig.js 这样的库。

示例(使用 decimal.js):

JavaScript 全选
import Decimal from 'decimal.js';

let result = new Decimal(652.8).minus(650);
console.log(result.toString()); // 输出 "2.8"

 

其他三方高精度运算库

decimal.jsbig.js 都是 JavaScript 中优秀的高精度运算库,各有特点,选择哪一个取决于你的使用场景和需求。此外,还有其他一些好用的高精度运算库。以下是详细对比和推荐:

1. decimal.js

特点:

  • 支持任意精度运算,可以设置精度和舍入方式。
  • 提供丰富的数学操作,如平方根、幂运算、对数等。
  • 完整支持负数、科学记数法和 NaN 等特殊值。
  • 文档清晰,社区活跃。

适用场景:

  • 需要进行复杂数学运算(如金融计算、科学计算)。
  • 对精度要求非常高,需要全面控制舍入方式。

示例:

JavaScript 全选
import Decimal from 'decimal.js';

const a = new Decimal(652.8);
const b = new Decimal(650);

const result = a.minus(b);
console.log(result.toString()); // 输出 "2.8"

2. big.js

特点:

  • 更轻量化,适合基础的高精度加减乘除运算。
  • 精度限制(默认最多可保留 15 位小数)。
  • 不支持高级数学函数(如幂运算、对数)。

适用场景:

  • 仅需简单的高精度运算(加减乘除)。
  • 希望减少库的体积,追求性能和易用性。

示例:

JavaScript 全选
import Big from 'big.js';

const a = new Big(652.8);
const b = new Big(650);

const result = a.minus(b);
console.log(result.toString()); // 输出 "2.8"

3. math.js

特点:

  • 功能最全面的数学运算库,支持高精度、矩阵、统计、单位转换等功能。
  • 自带 BigNumber 支持高精度运算。
  • 支持动态表达式解析(例如直接计算字符串表达式)。

适用场景:

  • 需要更广泛的数学功能,而不仅仅是高精度计算。
  • 适合科学计算、数据分析等复杂场景。

示例:

JavaScript 全选
import { create, all } from 'mathjs';

const math = create(all);
math.config({ number: 'BigNumber', precision: 20 });

const result = math.subtract(math.bignumber(652.8), math.bignumber(650));
console.log(result.toString()); // 输出 "2.8"

4. bignumber.js

特点:

  • 功能类似于 big.js,但更灵活,支持自定义精度和舍入模式。
  • 更适合对特殊场景有定制需求的高精度计算。

示例:

JavaScript 全选
import BigNumber from 'bignumber.js';

const a = new BigNumber(652.8);
const b = new BigNumber(650);

const result = a.minus(b);
console.log(result.toString()); // 输出 "2.8"

库对比总结

特性decimal.jsbig.jsmath.jsbignumber.js
体积较大最轻较大中等
功能丰富程度非常高
性能
高级运算支持
适用场景金融/科学计算简单计算全面数学功能金融计算

其他高精度库推荐

  1. numeral.js

    • 主要用于格式化数字,但不擅长高精度计算。
    • 适用于需要将数值转换为特定格式(如千位分隔符、货币格式)的场景。
  2. money.js

    • 专为货币计算设计,适用于金融领域。
  3. dinero.js

    • 另一款面向货币的精度计算库,支持货币单位、舍入方式等。

总结建议

  • 简单加减乘除运算:推荐 big.js(轻量、性能高)。
  • 需要更多数学功能:推荐 decimal.jsmath.js
  • 金融/货币计算:推荐 dinero.jsmoney.js
  • 复杂应用场景:选择 math.js

 

 

版权声明:本文为YES开发框架网发布内容,转载请附上原文出处连接
张国生
上一篇:深入理解 Vue 3 中的 ::v-deep:让 Scoped 样式无处不达
下一篇:vue typescript 使用big.js编译build会报错
评论列表

发表评论

评论内容
昵称:
验证码:
验证码
关联文章

JavaScript JS精度计算方法推荐,数值运算误差
二进制二进制运算
XLSX SheetJS解决日期43秒误差导致少一天的问题处理
Razor模板编辑亮CodeMirror和格式化JS-Beautify
JS魔法堂:函数节流(throttle)函数去抖(debounce)
C# 执行Javascript脚本
javascript js 操作cookie
截图工具推荐
EFCore官方扩展
TinyMCE 代码亮 Prism.js 对 C# language-csharp 没做处理
JS清除Input File 的选择文件 javascript清除Input File选择文件
Javascript JS日期格式化显示
three.js
Electron调用C#类dll
推荐】Razor文件编译 ASP.NET Core
Javascript 中通过 yield 和 promise 使异步变同步
数值拆分为2的幂的组合
Vue.js中如何限制Props只接受特定数组值:自定义验证方法解析
Electron edge.js配置
js Copy剪切板

热门标签
.NET Core .NET Reactor ag-grid AI发布 api安全 ASP.NET Core C#DLL加密 C#播放声音 C#代码混淆 C#代码加密 ChromeDriver Codex DateTime DBeaver devexpress devTool DLL混淆 edge.js EF EFCore Electron element-ui el-form el-table excel FastReport FileStream FolderBrowerDialog FolderSelectDialog form提交 git gridcontrol gridview input javascript json字符串 JS转换对象JSON jwt JWT授权 linq log Math MCP mitmproxy MVC MySQL Navicat netstat nginx node_modules NSwag Nuget Nuget镜像 number PowerShell pyinstaller python pythoncom python爬虫 python抓包 pywin32 redis Requests-html RestSharp Selenium sql SQL Server Swagger to-cms Visual Studio VSCode vue VueRouter vue路由 VUE页面通讯 Webpack Windows Windows服务 winform wmi xlrd yaml YESCMS YESWEB开发框架 白象 表单提交 播放声音 打开URL 代码混淆 弹窗提醒 端口占用 对象转换 分布式 公共字典 机器码 进程排查 静态资源 开发指南 路由参数 密钥 配置教程 配置文件 权限 人工智能 任务 任务调度 日期间隔 日志 日志记录 省市区 授权验证 数据库 四舍五入 文案 文件读取 文件夹选择 文件目录选择 问题排查 行政区域数据 页面通讯 中间件 CSharp 事务锁 工单系统 并发控制 重复提交 CMS Markdig Markdown markdown-it marked 技术选型 VS Code 开发工具 源代码管理 版本控制 Docker PostgreSQL 时区 部署排查 CMS架构 EF Core 主题系统 二次开发 插件系统 容器 运维命令 镜像清理 Linux NAS 远程挂载 飞牛 fnOS S/4HANA SAP GUI SAP HANA SAP R/3 SAP入门 SAP版本 ERP SAP SAP MM 库存管理 物料管理 采购管理 入门教程 SAP S/4HANA SPRO 企业结构 采购组织 MM01 物料主数据 物料类型 BP分组 业务伙伴 供应商主数据 ME41 RFQ 库存物料 采购流程 ME51 消耗性物料 科目分配 采购申请 AC03 ML81N 外部服务 服务主数据 Business Partner SAP培训 ME51N MM模块 Lean Services MM-SRV 外部服务采购 PIR 供应来源 采购主数据 采购信息记录 ME31K 框架协议 计划协议 采购合同 ME01 供应来源确定 货源清单 MEQ1 供应源确定 配额安排 配额评分 MD04 MD21 MRP 计划文件 需求计划 批量程序 MD01N MD02 MRP Live MD05 MM 物料计划 优化采购 供应源 采购订单 ME2A 供应商确认 采购监控 Flexible Workflow 凭证释放 采购审批 释放策略 实地盘点 物料凭证 货物移动 MIGO 收货 移动类型 已撤回 供应商退货 货物发出 STO 库存转储 转移过账 生产订单 预留 GR/IR MIRO 供应商发票 物流发票校验 OMR2 税码 FI PP SD 实操教程 MRBR OMR6 发票差异 交货成本 后续借记 MI01 实物盘点 盘点差异 公司代码 工厂 组织结构 OMS2 主数据定制 自动科目确定 BP角色 CVI 伙伴确定 编号范围 凭证类型 字段选择 FBN1 OMBT OMC2 会计凭证 OMJJ BOM 委外加工 项目类别L MRKO 供应商寄售 特殊库存K MRKON PIPE Pipeline 特殊库存P ERS MRIS 发票计划 周期性结算 里程碑付款 变更追踪 版本管理 采购凭证 SFTP WebDAV 网盘 飞牛fnOS AMPL HERS MPN 中文教程 库存确定 可用性检查 缺件检查 Output Management 消息确定 输出确定 分割评估 库存计价 评估类别 评估类型 PB00 RM0000 条件技术 采购定价 MM-FI集成 OBYC 库存估价 文本类型 文本采用 EFB EVO MSV SU3 用户参数 发票校验 合同参照 履约保留款 特别总账 预付款 Fiori Launchpad SAP Fiori 应用导航 用户体验 LSMW LTMC Migration Cockpit 数据迁移 BRFplus OPD Output Control My Inbox 审批流程 灵活工作流 SAP PP 外部加工 SAP QM 检验批 质量信息记录 采购收货 SAP PM 维护BOM 维护订单 SAP SD SAP Service 端到端流程 MM模块培训 FI-MM集成 供应商管理 审批配置 FICO入门 SAP FICO 财务配置 供应商税务 预扣税 House Bank 银行对账 客户清账 应收账款 FI控制 验证与替代 印度 GST 税务配置 F110 FBZP EWM入门 SAP EWM 仓库管理 OX14 成本核算 物料评估 后勤配置 物料组 价值更新 数量更新 PP-PI 流程制造 生产计划 容差配置 SAP事务码 SAP基础 TCODE Basis 事务代码 MMNR 编号区间 采购实操 组织架构 OMSF SAP实操 FI配置
联系我们
联系电话:15090125178(微信同号)
电子邮箱:garson_zhang@163.com
站长微信二维码
微信二维码