在 Torch 中进行线性回归结果产生 NaN 错误
2018-1-22 21:5:53
收藏:0
阅读:48
评论:0
我是一个 Torch 的新手。最近,我尝试使用 Torch 进行多元线性回归。但是错误总是会产生无穷大和 NaN。
对于前两个错误,显然是增加的。 以下是我的代码。
dataset=
124.0000 81.6900 64.5000 118.0000
150.0000 103.8400 73.3000 143.0000
...
137.0000 94.9600 67.0000 191.0000
110.0000 99.7900 75.5000 192.0000
...
94.0000 89.4000 64.5000 139.0000
74.0000 93.0000 74.0000 148.0000
89.0000 93.5900 75.5000 179.0000
linLayer = nn.Linear(3,1)
model = nn.Sequential()
model:add(linLayer)
criterion = nn.MSECriterion()
feval = function(x_new)
if x ~= x_new then
x:copy(x_new)
end
_nidx_ = (_nidx_ or 0) + 1
if _nidx_ > (#dataset_inputs)[1] then _nidx_ = 1 end
local sample = dataset[_nidx_]
local inputs = sample[{ {2,4} }]
local target = sample[{ {1} }]
dl_dx:zero()
local loss_x = criterion:forward(model:forward(inputs),target)
model:backward(inputs, criterion:backward(model.output,target))
-- 返回损失(x)和 dloss/dx
return loss_x, dl_dx
end
sgd_params = {
learningRate = 1e-3,
learningRateDecay = 1e-4,
weightDecay = 0,
momentum = 0
}
epochs = 100
for i = 1,epochs do
current_loss = 0
for i = 1,(#dataset_inputs)[1] do
_,fs = optim.sgd(feval,x,sgd_params)
current_loss = current_loss + fs[1]
end
current_loss = current_loss / (#dataset_inputs)[1]
print('epoch = ' .. i ..
' of ' .. epochs ..
' current loss = ' .. current_loss)
end
结果如下:
epoch = 1 of 100 current loss = 8.1958765768632e+138
epoch = 2 of 100 current loss = 5.0759297005752e+278
epoch = 3 of 100 current loss = inf
epoch = 4 of 100 current loss = inf
epoch = 5 of 100 current loss = nan
... ...
epoch = 97 of 100 current loss = nan
epoch = 98 of 100 current loss = nan
epoch = 99 of 100 current loss = nan
epoch = 100 of 100 current loss = nan
这个问题应该怎么解决?我用同样的方法训练逻辑回归。结果似乎比这个好。但还是不够好。 有什么问题吗?非常感谢。
点赞
评论区的留言会收到邮件通知哦~
推荐文章
- 如何将两个不同的lua文件合成一个 东西有点长 大佬请耐心看完 我是小白研究几天了都没搞定
- 如何在roblox studio中1:1导入真实世界的地形?
- 求解,lua_resume的第二次调用继续执行协程问题。
- 【上海普陀区】内向猫网络招募【Skynet游戏框架Lua后端程序员】
- SF爱好求教:如何用lua实现游戏内调用数据库函数实现账号密码注册?
- Lua实现网站后台开发
- LUA错误显式返回,社区常见的规约是怎么样的
- lua5.3下载库失败
- 请问如何实现文本框内容和某个网页搜索框内容连接,并把网页输出来的结果反馈到另外一个文本框上
- lua lanes多线程使用
- 一个kv数据库
- openresty 有没有比较轻量的 docker 镜像
- 想问一下,有大佬用过luacurl吗
- 在Lua执行过程中使用Load函数出现问题
- 为什么 neovim 里没有显示一些特殊字符?
- Lua比较两个表的值(不考虑键的顺序)
- 有个lua简单的项目,外包,有意者加微信 liuheng600456详谈,最好在成都
- 如何在 Visual Studio 2022 中运行 Lua 代码?
- addEventListener 返回 nil Lua
- Lua中获取用户配置主目录的跨平台方法