Lua中丢失精度

2013-12-24 16:55:46
收藏：0
阅读：109
评论：1

我在lua中有一个函数，给定2个向量，返回第一个向量到第二个向量的λ乘子，这里是我的代码

function Math.vectorLambda( v1,v2 )
    local v1Length,v2Length=math.sqrt(v1.x^2+v1.y^2),math.sqrt(v2.x^2+v2.y^2)
    if v1Length==0 then
        return nil
    else
        local dotProduct=v1.x*v2.x+v1.y*v2.y
        print(dotProduct,v1Length,v2Length,math.abs(dotProduct)==(v1Length*v2Length))
        if math.abs(dotProduct)==(v1Length*v2Length) then
            if v1.x~=0 then
                return v2.x/v1.x
            else
                return v2.y/v1.y
            end
        else
            return nil
        end
    end
end

然而，如果

- 这是我从终端获得的，我相信它没有显示完整的数字 -
    v1={0.51449575542753,-0.85749292571254}
    v2={-10,16.666666666667}

输出是

-19.436506316151    1   19.436506316151 false

这意味着dotProduct的绝对值和v1Length*v2Length不相等... 除了我瞎了吗，还有什么原因吗？ :(

顺便说一下，此函数不稳定...与完全相同的向量一起使用，该函数可能具有相同的输出，除非math.abs（dotProduct）==（v1Length * v2Length）为真，因此返回正确答案而不是nil，为什么？

点赞
用户962150
用户962150

浮点数是棘手的。你很可能在较小的小数位上有差异（我不确定，因为我这里得到的是 true）。尝试使用类似以下的函数以更高的精度打印数字：

function prec_print(v, prec)
  local format = '%.' .. prec .. 'f'
  print(string.format(format, value))
end

无论如何，你几乎永远不应该使用 == 比较浮点数相等性，因为对于浮点数来说，像 a+b-b==a 这样简单的操作可能很容易得到 false。你应该检查两个值之间的差异是否小于某个阈值：

function almost_equal(float1, float2, threshold)
  return math.abs(float1 - float2) <= threshold
end

但实际上要比这更加棘手（如果说 float1 和 float2 相差太远）。无论如何，这篇文章对于任何使用浮点数的人来说，是必读的：http://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html

干杯！

2014-01-29 19:48:51

作者:

用户1945245

用户1945245
推荐文章