Lua：完美截断一个值

2014-9-29 4:44:15
收藏：0
阅读：102
评论：1

这个脚本在程序中显示一个值：

string.format("%d", math.floor(self:value())) -- 这里的 self:value() 是一个数字，比如 4.1256913947

这个脚本将同样的值打印到我的控制台上。

math.floor(value) -- 这里的 value 和 self:value() 是同样的数字，只是被发送到另一个函数中

问题是显示值和控制台打印值不匹配。这种情况很少发生，但是当用户输入的数据略微超过整数（例如4.0029893417），它会在这种情况下被楼层掉为3，原因未知。我尝试过使用 math.ceil，但是当它太接近（即4.89898989）时，相反的效果会发生，它将打印5但显示为4。有没有办法使数字完美截断？从而正确地显示和打印？

注意：值是不可更改的，因为有时需要那些额外的小数，并且在其他地方/函数中进行了相应的处理。

谢谢 :)

点赞
用户2604672
用户2604672

出于好奇，我进行了一些测试，使用了你所描述的一些条件。 不幸的是（或是幸运的），我无法重现你所谈论的问题。 下面的代码块添加和减去随机数，以便结果大约在4附近，然后比较两种打印方法（由产生的字符串比较）：

for i=1,10000000 do
    local value = 3.9 + math.random() * 0.2
    local s1 = string.format("%d", math.floor(value))
    local s2 = tostring(math.floor(value))
    if s1 ~= s2 then print "Error" end
end

正如你所猜测的，"Error"没有显示出来。

我进行了另一个实验：

local l = 4
for i=1,100000 do
    local k = math.pow (10,-i)
    local rand = math.random() * 0.1
    local subtracted = l - k - rand
    if math.floor(subtracted + k + rand) < 4 then
        print "error"
    end
end

通过添加非常小的数字，我希望能够获得类似于你所描述的结果，但是再次，问题并没有出现。

因此，我必须得出结论，问题可能在于函数self:value()和变量value之间的差异（它们确实有时具有不同的值）。

2014-09-30 18:46:08

作者:

用户3994105

用户3994105
推荐文章