Javascript浮点数计算精度问题案例分析 2024年04月04日 码路行者 509 在JavaScript中浮点数计算存在精度问题,所以在日常开发中我们很少会直接使用浮点数计算进行比较。但大多人知其然不知其所以然,不知道为什么会存在精度问题。这篇文章就以0.1+0.2!=0.3入手,分析Javascript浮点数计算精度丢失的问题。计算... 阅读全文 0 评论
计算机中小数的表示方法-定点数和浮点数 2024年03月26日 码路行者 1767 计算机中的小数有两种表达方式:定点数表示法和浮点表示法。这两种表示方法定义与小数点有关,是为了解决小数点表示的问题。定点表示法中的小数点固定在某一个位置上;浮点表示法中的小数点的位置可以浮动,不固定在具体的位置上。定点数表示法定点数格式:约定小数点固定在... 阅读全文 0 评论