为什么在 Lua 中在 for 循环中减去 0.1 会产生这种不期望的结果?
2020-11-10 18:44:38
收藏:0
阅读:145
评论:2
j=1
for i=1,10 do
j=j-0.1
print(j)
end
输出结果为:
0.9 0.8 0.7 0.6 0.5 0.4 0.3 0.2 0.1 1.3877787807814e-16
其中最后一个条目应该为 0 注意:0.1-0.1 返回 0.0 但是,从 j≥0.3 开始反复执行 j=j-0.1 就会产生这个结果
点赞
用户14614654
round off error!
在 IEEE 64 位浮点数中,0.1 无法准确地表示。
在二进制中,1/10 有一个循环的表示!
2020-11-10 18:56:44
评论区的留言会收到邮件通知哦~
推荐文章
- Lua 虚拟机加密load(string.dump(function)) 后执行失败问题如何解决
- 我想创建一个 Nginx 规则,禁止访问
- 如何将两个不同的lua文件合成一个 东西有点长 大佬请耐心看完 我是小白研究几天了都没搞定
- 如何在roblox studio中1:1导入真实世界的地形?
- 求解,lua_resume的第二次调用继续执行协程问题。
- 【上海普陀区】内向猫网络招募【Skynet游戏框架Lua后端程序员】
- SF爱好求教:如何用lua实现游戏内调用数据库函数实现账号密码注册?
- Lua实现网站后台开发
- LUA错误显式返回,社区常见的规约是怎么样的
- lua5.3下载库失败
- 请问如何实现文本框内容和某个网页搜索框内容连接,并把网页输出来的结果反馈到另外一个文本框上
- lua lanes多线程使用
- 一个kv数据库
- openresty 有没有比较轻量的 docker 镜像
- 想问一下,有大佬用过luacurl吗
- 在Lua执行过程中使用Load函数出现问题
- 为什么 neovim 里没有显示一些特殊字符?
- Lua比较两个表的值(不考虑键的顺序)
- 有个lua简单的项目,外包,有意者加微信 liuheng600456详谈,最好在成都
- 如何在 Visual Studio 2022 中运行 Lua 代码?

Lua 中的数字为双精度浮点数,即 双精度浮点数格式。浮点数存在浮点精度误差。实际上,
0.1并不完全等于0.1,而是最接近0.1的表示方式。可能的解决方法可能是使用整数或整数与单独的小数部分。相关问题及其答案:C ++ 如何避免浮点运算错误