为什么Lua会出现这种情况，如何解决浮点数问题？
2019-9-25 21:21:48
收藏：0
阅读：119
评论：1
这是我的代码：
a=20.4*100
print(a,math.floor(a),math.floor(2040))
在控制台的输出结果是：
2040 2039 2040
如果a等于2040，那么为什么对该数字进行math.floor操作时，它会减小？
我应该如何编写更准确的数学函数以避免这种奇怪的行为？
点赞
评论区的留言会收到邮件通知哦~
作者:
用户12121649
推荐文章
- Lua 虚拟机加密load(string.dump(function)) 后执行失败问题如何解决
- 我想创建一个 Nginx 规则，禁止访问
- 如何将两个不同的lua文件合成一个 东西有点长 大佬请耐心看完 我是小白研究几天了都没搞定
- 如何在roblox studio中1：1导入真实世界的地形？
- 求解，lua_resume的第二次调用继续执行协程问题。
- 【上海普陀区】内向猫网络招募【Skynet游戏框架Lua后端程序员】
- SF爱好求教：如何用lua实现游戏内调用数据库函数实现账号密码注册？
- Lua实现网站后台开发
- LUA错误显式返回，社区常见的规约是怎么样的
- lua5.3下载库失败
- 请问如何实现文本框内容和某个网页搜索框内容连接，并把网页输出来的结果反馈到另外一个文本框上
- lua lanes多线程使用
- 一个kv数据库
- openresty 有没有比较轻量的 docker 镜像
- 想问一下，有大佬用过luacurl吗
- 在Lua执行过程中使用Load函数出现问题
- 为什么 neovim 里没有显示一些特殊字符?
- Lua比较两个表的值（不考虑键的顺序）
- 有个lua简单的项目，外包，有意者加微信 liuheng600456详谈，最好在成都
- 如何在 Visual Studio 2022 中运行 Lua 代码？
简单来说：计算机没有无限的内存，所以它们只能使用有限的位数来存储数字。如果数字有太多的小数位，计算机会将一部分截掉，而恰好在二进制表示中，2/5 的值 0.4 有比计算机能存储的更多的小数位；因此，在截掉一部分小数位后，你会得到 0.399999something，
print命令足够聪明，可以将其显示为 0.4，但如果你使用floor()命令将其向下取整，结果会无情地舍入到下一个更小的值。这就是你看到的结果。另外请注意，你本来可以在 Google 上找到这个答案。这是编程中最常见的问题之一 ;)
例如，试试这个代码：
string.format("%f", 20.4*100) --> 2040.000000 string.format("%0.20f", 20.4*100) --> 2039.99999999999977262632