Lua 有效数字
2016-9-1 7:47:56
收藏:0
阅读:165
评论:2
我正在尝试编写一个函数,用于将数字四舍五入至用户提供的一定数量有效数字,例如如果用户给出数字
234.235534 要求保留5个有效数字,函数应该返回 234.24
点赞
用户9942434
我不是一名程序员,但是在看到其他人在 lua 中推荐的四舍五入函数让我失望后,为了自己的使用我想了一个方法。这个函数应该可以满足你的需求。
function sigFig(num,figures) local x=figures - math.ceil(math.log10(math.abs(num))) return(math.floor(num*10^x+0.5)/10^x) end
```
现在从有效数字方面来看,它不会添加额外的零来表示精度。例如:
sigFig(234.235534,5) 将得到 234.24
sigFig(234.0000001,6) 将得到 234.0,而不是 234.000
2018-06-14 15:10:22
评论区的留言会收到邮件通知哦~
推荐文章
- Lua 虚拟机加密load(string.dump(function)) 后执行失败问题如何解决
- 我想创建一个 Nginx 规则,禁止访问
- 如何将两个不同的lua文件合成一个 东西有点长 大佬请耐心看完 我是小白研究几天了都没搞定
- 如何在roblox studio中1:1导入真实世界的地形?
- 求解,lua_resume的第二次调用继续执行协程问题。
- 【上海普陀区】内向猫网络招募【Skynet游戏框架Lua后端程序员】
- SF爱好求教:如何用lua实现游戏内调用数据库函数实现账号密码注册?
- Lua实现网站后台开发
- LUA错误显式返回,社区常见的规约是怎么样的
- lua5.3下载库失败
- 请问如何实现文本框内容和某个网页搜索框内容连接,并把网页输出来的结果反馈到另外一个文本框上
- lua lanes多线程使用
- 一个kv数据库
- openresty 有没有比较轻量的 docker 镜像
- 想问一下,有大佬用过luacurl吗
- 在Lua执行过程中使用Load函数出现问题
- 为什么 neovim 里没有显示一些特殊字符?
- Lua比较两个表的值(不考虑键的顺序)
- 有个lua简单的项目,外包,有意者加微信 liuheng600456详谈,最好在成都
- 如何在 Visual Studio 2022 中运行 Lua 代码?

我认为你正在寻找
[fs]?printf的%g修饰符。其中,精度 由以下规定:
所以,你想要:
> return ("%.5g"):format(234.235534) 234.24 > return ("%.6g"):format(x) 234.236