原始的Alexnet实现(基准测试)

我有关于Alexnet模型的问题。我已经从BVLC caffe模型重新实现了Alexnet模型在Torch中。但是即使在批量设置为256,执行100万次迭代后,我始终得到0%的top-1准确度。我想知道我的模型有什么问题,是否有人可以帮助我。这是我写的模型:

net = nn.Sequential()
net:add(cudnn.SpatialConvolution(3, 96, 11, 11, 4, 4, 0, 0, 1):learningRate('bias', 2):weightDecay('bias', 0))
net:add(cudnn.ReLU(true))
net:add(cudnn.SpatialCrossMapLRN(5))
net:add(cudnn.SpatialMaxPooling(3,3, 2,2, 0,0):ceil())

net:add(cudnn.SpatialConvolution(96,256,5,5,1,1,2,2,2):learningRate('bias', 2):weightDecay('bias', 0))
net:add(cudnn.ReLU(true))
net:add(cudnn.SpatialCrossMapLRN(5))
net:add(cudnn.SpatialMaxPooling(3,3,2,2,0,0):ceil())

net:add(cudnn.SpatialConvolution(256, 384, 3,3, 1,1, 1,1,1):learningRate('bias', 2):weightDecay('bias', 0))
net:add(cudnn.ReLU(true))

net:add(cudnn.SpatialConvolution(384, 384, 3,3, 1,1, 1,1,2):learningRate('bias', 2):weightDecay('bias', 0))
net:add(cudnn.ReLU(true))

net:add(cudnn.SpatialConvolution(384, 256, 3,3, 1,1, 1,1,2):learningRate('bias', 2):weightDecay('bias', 0))
net:add(cudnn.ReLU(true))
net:add(cudnn.SpatialMaxPooling(3,3,2,2,0,0):ceil())

--net:add(nn.View(256*6*6))
net:add(nn.View(-1):setNumInputDims(3))
net:add(nn.Linear(256*6*6, 4096):learningRate('weight', 1):learningRate('bias', 2):weightDecay('weight', 1):weightDecay('bias', 0))
--net:add(nn.BatchNormalization(4096))
net:add(cudnn.ReLU(true))
net:add(nn.Dropout(0.5))
net:add(nn.Linear(4096, 4096):learningRate('weight', 1):learningRate('bias', 2):weightDecay('weight', 1):weightDecay('bias', 0))
--net:add(nn.BatchNormalization(4096))
net:add(cudnn.ReLU(true))
net:add(nn.Dropout(0.5))
net:add(nn.Linear(4096, opt.nClasses):learningRate('weight', 1):learningRate('bias', 2):weightDecay('weight', 1):weightDecay('bias', 0))

这是我如何初始化权重的方式:

-- initialize the model
  local function weights_init(m)
    local name = torch.type(m)
    if name:find('Convolution') then
      m.weight:normal(0.0, 0.01)
      m.bias:fill(0)
    elseif name:find('BatchNormalization') then
      if m.weight then m.weight:normal(1.0, 0.02) end
      if m.bias then m.bias:fill(0) end
    end
  end
  net:apply(weights_init)

非常感谢您的帮助,任何指导都将不胜感激!

点赞
用户20940130
用户20940130

你可以使用 PyTorch 实现 AlexNet:

import torch
model = torch.hub.load('pytorch/vision:v0.10.0', 'alexnet', pretrained=True)
model.eval()

或者你也可以查看这个 Github 仓库,其中模型以 h5 格式提供给 Tensorflow,以便轻松实现 这里

2023-01-05 20:51:35