在Lua中使用等于运算符比较数字的安全性如何?

在我的引擎中,我有一个用于脚本编写的Lua虚拟机。在脚本中,我会写一些像这样的代码:

stage = stage + 1
if (stage == 5) then ... end

objnum = tonumber("5")
if (stage == objnum)

根据Lua源代码,Lua在比较浮点数时使用简单的等号运算符,这是它使用的内部数字类型。

我意识到处理浮点数值时存在精度问题,所以我想知道比较是否安全,也就是说,是否会有任何问题,只需使用Lua的默认'=='操作比较这些数字?如果有,是否有任何对策我可以采取,确保1 + 2总是等于3?将值转换为字符串是否起作用?

点赞
用户221955
用户221955

在某些情况下,双精度浮点数的比较和基本操作是安全的。特别是,如果数字及其结果可以精确表示,包括所有低值整数。

因此,对于双精度浮点数,2+1 == 3 是可以的。

注意:我相信某些数学函数(如 powsqrt)甚至具有某些保证,如果你的编译器/库遵守这些保证,则 sqrt(4.0)==2.04.0 == pow(2.0,2.0) 将可靠地成立。

2012-09-07 11:16:18
用户194106
用户194106

默认情况下,Lua 是使用 c++ 浮点数编译的,背后的数字比较归结为 c/c++ 中的浮点数比较,这确实是有问题的,并在多个线程中进行了讨论,例如 most-effective-way-for-float-and-double-comparison

Lua 只是将所有数字,包括 c++ 整数,转换为浮点数,因此您需要记住这一点。

2012-09-07 14:08:03
用户1442917
用户1442917

如果您只关心某些情况下的相等性,将其转换为字符串然后比较结果可能更好。例如:

> print(21, 0.07*300, 21 == 0.07*300, tostring(21) == tostring(0.07*300))
21      21      false   true

我通过给我的学生这些数字(0.07和300)的任务并要求他们实现单元测试来学到了这个艰难的方法,然后这些测试可怜地失败,抱怨21不等于21(它正在比较实际数字,但显示字符串化的值)。这是我们讨论比较浮点值的一个好理由。

2012-09-07 15:12:44
用户501459
用户501459

你不必担心。Lua 中的数字类型是 double,可以精确地保留比 long int 更多的整数。了解详情

2012-09-08 04:23:01