使用Lua/ Torch7创建HTTP服务器。

我正在开始学习Torch7,以进入机器学习/深度学习领域。我发现这很迷人(也很复杂哈哈)。然而,我的主要担忧是,我是否能将这种学习转化为一种应用程序-主要是,我能否将我的Torch7 Lua脚本转化为一个应用程序可以使用的服务器来执行机器学习计算?如果可能,如何做到?谢谢。

点赞
用户1442917
用户1442917

你应该把Torch视为一个库(即使你可能会将其作为一个独立的可执行文件来访问)。从一些可通过HTTP访问的Lua代码中可以使用该库。Lua代码可以在OpenResty中运行,它将处理所有的HTTP交互,并且你可以获得与OpenResty相同的性能,因为OpenResty可以配置为使用LuaJIT。

另一个选项是使用基于luasocket和copas库的HTTP处理(例如,Xavante),或者使用LuaWebserver页面上列出的选项之一。

2015-03-30 20:01:59
用户117844
用户117844

你也可以使用我们已经在 torch 中测试过的 async 包。

2015-03-30 21:06:49
用户2053898
用户2053898

尝试使用 llserver - 精简的 Lua 服务器。只运行单个协程,并通过回调函数提供动态内容:https://github.com/ncp1402/llserver

你可以在额外的协程中执行其他任务/计算。

2015-06-22 16:59:16
用户3932212
用户3932212

你可以使用 waffle。这里是它页面上的一个 Hello World 示例:

local app = require('waffle')

app.get('/', function(req, res)
   res.send('Hello World!')
end)

app.listen()

比如说你的算法是一个简单的人脸检测器。输入是一张图片,输出是一些 JSON 格式的人脸检测结果。你可以这样做:

local app = require('waffle')
require 'graphicsmagick'
require 'MyAlgorithm'

app.post('/', function(req, res)
  local img, detections, outputJson
  img = req.form.image_file:toImage()
  detections = MyAlgorithm.detect(img:double())
  outputJson = {}
  if (detections ~= nil) then
    outputJson.faceInPicture = true
    outputJson.faceDetections = detections
  else
    outputJson.faceInPicture = false
    outputJson.faceDetections = nil
  end
  res.json(outputJson)
end)

app.listen()

这样你的算法就可以作为一个独立的服务使用了。

2016-02-17 21:17:53
用户213123
用户213123

同时,asyncwaffle都是不错的选择。另一种选择是使用ZeroMQProtocol Buffers。无论您喜欢什么样的Web开发环境,您都可以使用ZeroMQ异步地向Torch发送请求,可能使用协议缓冲区序列化消息,然后在Torch中处理每个请求并返回结果。

这样,我成功地获得了比waffle的20K fib测试还要更高的吞吐量。

2016-08-08 20:27:42