Lua浮点字符串转数字

2016-3-5 1:41:22
收藏：0
阅读：64
评论：2

这种转换的原因是什么，我应该如何使用tonumber将Lua浮点字符串转换为数字？

tonumber('22.31')
--22.310000000000002
tonumber('22.32')
--22.32
tonumber('22.33');
--22.330000000000002
tonumber('22.34');
--22.34
tonumber(22.31)
--数字也同样的结果
--22.310000000000002
点赞
用户3586583
用户3586583

我只是想了解为什么将22.31转换为比特长数字，而不是22.32或22.34。

0和1之间有无限多个数字。如果你有一个数字0.1，你可以无限地向其末尾添加1，从而生成无限数量的数字。

并非所有0和1之间的值都可以用浮点数表示，因为浮点数无法容纳无限数量的数据。浮点数更像是一个近似值，而不是一个精确值。

你可能会发现这个堆栈溢出的答案有帮助：https://stackoverflow.com/a/1089026/3586583

2016-03-04 22:59:33
用户1009479
用户1009479

大多数浮点数在二进制中无法精确地表示。

有些浮点数在二进制中是精确的，比如 22.5，22.25，22.125 等等。然而，你的例子中的数字都不是这样的。

那么为什么像 22.32 或 22.24 这样的数字被显示时没有尾数，而其他数字有呢？这只是因为显示精度的原因。

string.format('%.20g', tonumber('22.32'))
--> 22.320000000000000284
2016-03-05 01:21:47

作者:

用户2045685

用户2045685
推荐文章