在Lua中使用等于运算符比较数字的安全性如何?
2012-9-7 10:59:44
收藏:0
阅读:138
评论:4
在我的引擎中,我有一个用于脚本编写的Lua虚拟机。在脚本中,我会写一些像这样的代码:
stage = stage + 1
if (stage == 5) then ... end
和
objnum = tonumber("5")
if (stage == objnum)
根据Lua源代码,Lua在比较浮点数时使用简单的等号运算符,这是它使用的内部数字类型。
我意识到处理浮点数值时存在精度问题,所以我想知道比较是否安全,也就是说,是否会有任何问题,只需使用Lua的默认'=='操作比较这些数字?如果有,是否有任何对策我可以采取,确保1 + 2总是等于3?将值转换为字符串是否起作用?
点赞
用户194106
默认情况下,Lua 是使用 c++ 浮点数编译的,背后的数字比较归结为 c/c++ 中的浮点数比较,这确实是有问题的,并在多个线程中进行了讨论,例如 most-effective-way-for-float-and-double-comparison。
Lua 只是将所有数字,包括 c++ 整数,转换为浮点数,因此您需要记住这一点。
2012-09-07 14:08:03
用户1442917
如果您只关心某些情况下的相等性,将其转换为字符串然后比较结果可能更好。例如:
> print(21, 0.07*300, 21 == 0.07*300, tostring(21) == tostring(0.07*300))
21 21 false true
我通过给我的学生这些数字(0.07和300)的任务并要求他们实现单元测试来学到了这个艰难的方法,然后这些测试可怜地失败,抱怨21不等于21(它正在比较实际数字,但显示字符串化的值)。这是我们讨论比较浮点值的一个好理由。
2012-09-07 15:12:44
评论区的留言会收到邮件通知哦~
推荐文章
- 如何将两个不同的lua文件合成一个 东西有点长 大佬请耐心看完 我是小白研究几天了都没搞定
- 如何在roblox studio中1:1导入真实世界的地形?
- 求解,lua_resume的第二次调用继续执行协程问题。
- 【上海普陀区】内向猫网络招募【Skynet游戏框架Lua后端程序员】
- SF爱好求教:如何用lua实现游戏内调用数据库函数实现账号密码注册?
- Lua实现网站后台开发
- LUA错误显式返回,社区常见的规约是怎么样的
- lua5.3下载库失败
- 请问如何实现文本框内容和某个网页搜索框内容连接,并把网页输出来的结果反馈到另外一个文本框上
- lua lanes多线程使用
- 一个kv数据库
- openresty 有没有比较轻量的 docker 镜像
- 想问一下,有大佬用过luacurl吗
- 在Lua执行过程中使用Load函数出现问题
- 为什么 neovim 里没有显示一些特殊字符?
- Lua比较两个表的值(不考虑键的顺序)
- 有个lua简单的项目,外包,有意者加微信 liuheng600456详谈,最好在成都
- 如何在 Visual Studio 2022 中运行 Lua 代码?
- addEventListener 返回 nil Lua
- Lua中获取用户配置主目录的跨平台方法
在某些情况下,双精度浮点数的比较和基本操作是安全的。特别是,如果数字及其结果可以精确表示,包括所有低值整数。
因此,对于双精度浮点数,
2+1 == 3是可以的。注意:我相信某些数学函数(如
pow和sqrt)甚至具有某些保证,如果你的编译器/库遵守这些保证,则sqrt(4.0)==2.0或4.0 == pow(2.0,2.0)将可靠地成立。