无法比较计算数与相同数?
2019-6-20 3:14:8
收藏:0
阅读:82
评论:2
我正在编写一个向量类。在测试向量类时,当将单位向量的大小与1进行比较时,我遇到了一个失败的测试用例。
当比较它们时,它们都显示为1,那么是什么原因导致此测试失败?
我已经尽可能简化了它们,以便找到问题的根本原因。我可以将数字强制转换为字符串并进行比较,但这只能解决测试用例,使问题在以后的时间里再次出现。 我使用的是Lua 5.1解释器(以识别根本原因),它与LuaRocks捆绑在一起。
local v = 0.70710678118655^2 + 0.70710678118655^2
print(v, v == 1)
v == 1应该为true,而不是false。
点赞
用户3574628
当将一个浮点数转换为字符串时,Lua只保留了15个有效数字。尝试使用17个数字以获得精确表示。
local v = 0.70710678118655^2 + 0.70710678118655^2
print(("%.17g"):format(v), v == 1)
输出:
1.0000000000000071 false
2019-06-20 21:25:59
评论区的留言会收到邮件通知哦~
推荐文章
- Lua 虚拟机加密load(string.dump(function)) 后执行失败问题如何解决
- 我想创建一个 Nginx 规则,禁止访问
- 如何将两个不同的lua文件合成一个 东西有点长 大佬请耐心看完 我是小白研究几天了都没搞定
- 如何在roblox studio中1:1导入真实世界的地形?
- 求解,lua_resume的第二次调用继续执行协程问题。
- 【上海普陀区】内向猫网络招募【Skynet游戏框架Lua后端程序员】
- SF爱好求教:如何用lua实现游戏内调用数据库函数实现账号密码注册?
- Lua实现网站后台开发
- LUA错误显式返回,社区常见的规约是怎么样的
- lua5.3下载库失败
- 请问如何实现文本框内容和某个网页搜索框内容连接,并把网页输出来的结果反馈到另外一个文本框上
- lua lanes多线程使用
- 一个kv数据库
- openresty 有没有比较轻量的 docker 镜像
- 想问一下,有大佬用过luacurl吗
- 在Lua执行过程中使用Load函数出现问题
- 为什么 neovim 里没有显示一些特殊字符?
- Lua比较两个表的值(不考虑键的顺序)
- 有个lua简单的项目,外包,有意者加微信 liuheng600456详谈,最好在成都
- 如何在 Visual Studio 2022 中运行 Lua 代码?

当然,这是一个“浮点数运算失效”问题的例子。
更多解释:执行这段代码
local half = 0.50 local doubleHalf = half + half if doubleHalf == 1 then print('doubleHalf is one') else print('doubleHalf differs '.. doubleHalf - 1 ..'from one') end --> doubleHalf is one local rootHalf = math.sqrt(half) print('rootHalf is a '.. type(rootHalf) ..' with value', rootHalf) --> rootHalf is a number with value 0.70710678118654 local square = rootHalf^2 print('square is a '.. type(square) ..' with value', square) --> square is a number with value 0.5 if square == half then print('square is half') else print('square differs '.. square - half ..' from half') end --> square differs 1.110223E-16 from half vector_length = square + square if vector_length == 1 then print('vector length is one') else print('vector length differs '.. vector_length - 1 ..' from one') end --> vector length differs 2.220446E-16 from one任何使用数值的计算机都会有限精度计算。