Torch:将张量从 GPU 移动到 CPU 后无法释放 GPU 内存
2018-3-26 17:59:26
收藏:0
阅读:112
评论:1
在 jcjohnson 的建议下,为了在内存受限的环境下生成神经风格中的大图像,我正在尝试在 updateOutput 和 updateGradInput 中将层激活在 GPU 和 CPU 之间来回移动,例如
if (torch.type(previousModule) == 'cudnn.ReLU' or torch.type(previousModule) == 'cudnn.SpatialConvolution') then
previousModule.output = previousModule.output:cuda()
collectgarbage('collect')
end
....
if (torch.type(currentModule) == 'cudnn.ReLU' or torch.type(currentModule) == 'cudnn.SpatialConvolution') then
currentModule.output = currentModule.output:float()
collectgarbage('collect')
end
功能上,对于较小的图像,它可以正常工作,可以生成图像,尽管速度较慢。但是,即使将输出张量从 cuda 转换为 float,它仍然不会释放 GPU 中的内存,尽管明确调用了 collectgarbage() 例程,我无法生成比 GPU 内存最初限制的更大的图像。
在这里,我错了吗?
点赞
评论区的留言会收到邮件通知哦~
推荐文章
- Lua 虚拟机加密load(string.dump(function)) 后执行失败问题如何解决
- 我想创建一个 Nginx 规则,禁止访问
- 如何将两个不同的lua文件合成一个 东西有点长 大佬请耐心看完 我是小白研究几天了都没搞定
- 如何在roblox studio中1:1导入真实世界的地形?
- 求解,lua_resume的第二次调用继续执行协程问题。
- 【上海普陀区】内向猫网络招募【Skynet游戏框架Lua后端程序员】
- SF爱好求教:如何用lua实现游戏内调用数据库函数实现账号密码注册?
- Lua实现网站后台开发
- LUA错误显式返回,社区常见的规约是怎么样的
- lua5.3下载库失败
- 请问如何实现文本框内容和某个网页搜索框内容连接,并把网页输出来的结果反馈到另外一个文本框上
- lua lanes多线程使用
- 一个kv数据库
- openresty 有没有比较轻量的 docker 镜像
- 想问一下,有大佬用过luacurl吗
- 在Lua执行过程中使用Load函数出现问题
- 为什么 neovim 里没有显示一些特殊字符?
- Lua比较两个表的值(不考虑键的顺序)
- 有个lua简单的项目,外包,有意者加微信 liuheng600456详谈,最好在成都
- 如何在 Visual Studio 2022 中运行 Lua 代码?

我不确定它应该以这种方式工作。网络应该在运行时保持不变。
cudnn有 这个 函数,说明它执行了转换,但没有明确说明当模块从 GPU 移动时内存会发生什么。(似乎奇怪的是, CPU 运行函数可以在存储在 GPU 上的数据上工作)标准的
cunn模块根本没有网络的向后转换。您的代码执行以下操作:
如果 currentModule 是 cuda,则将其输出转换为 float。 previousModule = currentModule 如果 previousModule 是 cuda,则将其输出转换为 cuda最后,如果您的 GPU 代码速度较慢,且不断地将数据来回传输,您确定使用 CPU 不会更容易吗?