Python 中由 Lua 访问 sharedmem
2017-10-21 0:24:22
收藏:0
阅读:102
评论:2
我必须反复地将一个大数组从 Lua 移动到 Python 中。目前,我将 Lua 代码作为 Python 的子进程运行,并从其 stdout 中读取数组。这比我想象的要慢得多,瓶颈似乎几乎完全是 Python 的 p.stdout.read([byte size of array]) 调用,因为单独运行 Lua 代码要快得多。
据我所知,改进管道的唯一方法是使用共享内存,但这几乎总是讨论在不同的 Python 进程之间进行多进程处理,而不是在 Python 和子进程之间进行处理。
有没有一种合理的方法在 Python 和 Lua 之间共享内存?相关的答案已经建议使用直接调用shm_open,但如果存在预构建的模块/包,我宁愿使用它们。
点赞
用户8809171
以下是使用 Lua 中的 Torch 和 Python 中的 NumPy 找到的解决方案。使用 lupa 将 Lua 代码从 Python 中运行。
在 main.lua 中:
require 'torch'
data_array = torch.FloatTensor(256, 256)
function write_data()
return tonumber(torch.data(data_array:contiguous(), true))
}
从 Python 中调用:
import ctypes
import lupa
import numpy as np
data_shape = (256, 256)
lua = lupa.LuaRuntime()
with open('main.lua') as f: lua.execute(f.read())
data_array = np.ctypeslib.as_array(ctypes.cast(ctypes.c_void_p(lua.globals().write_data()), ctypes.POINTER(ctypes.c_float)), shape=data_shape)
data_array 被构建成指向 Torch 张量存储的指针。
2017-10-22 18:56:07
评论区的留言会收到邮件通知哦~
推荐文章
- Lua 虚拟机加密load(string.dump(function)) 后执行失败问题如何解决
- 我想创建一个 Nginx 规则,禁止访问
- 如何将两个不同的lua文件合成一个 东西有点长 大佬请耐心看完 我是小白研究几天了都没搞定
- 如何在roblox studio中1:1导入真实世界的地形?
- 求解,lua_resume的第二次调用继续执行协程问题。
- 【上海普陀区】内向猫网络招募【Skynet游戏框架Lua后端程序员】
- SF爱好求教:如何用lua实现游戏内调用数据库函数实现账号密码注册?
- Lua实现网站后台开发
- LUA错误显式返回,社区常见的规约是怎么样的
- lua5.3下载库失败
- 请问如何实现文本框内容和某个网页搜索框内容连接,并把网页输出来的结果反馈到另外一个文本框上
- lua lanes多线程使用
- 一个kv数据库
- openresty 有没有比较轻量的 docker 镜像
- 想问一下,有大佬用过luacurl吗
- 在Lua执行过程中使用Load函数出现问题
- 为什么 neovim 里没有显示一些特殊字符?
- Lua比较两个表的值(不考虑键的顺序)
- 有个lua简单的项目,外包,有意者加微信 liuheng600456详谈,最好在成都
- 如何在 Visual Studio 2022 中运行 Lua 代码?

在考虑使用共享内存之前,我建议进行一些剖析实验,以确定时间消耗在哪里。
如果您的实验证明,您在进程之间序列化/反序列化数据的时间太长,则可以使用共享内存,以及像[Cap'n Proto](https://capnproto.org/)这样设计用于避免这种成本的格式可能是一个很好的解决方案。
快速搜索可以找到这两个库:
但绝对要先进行分析。
还有没有[lupa](https://pypi.python.org/pypi/lupa/)适合您的原因?