batch、epoch、iteration的区别

  • 时间:
  • 浏览:
  • 来源:互联网

参考博客1
参考博客2:为什么要用多于一个epoch?

(1)batchsize:批大小。在深度学习中,一般采用SGD训练,即每次训练在训练集中取batchsize个样本训练;

(2)iteration:1个iteration等于使用batchsize个样本训练一次;Iteration是batch需要完成一个epoch的次数。 iteration = 数据集大小 / batch_size

(3)epoch:1个epoch等于使用训练集中的全部样本训练一次,通俗的讲epoch的值就是整个数据集被轮几次。

比如训练集有500个样本,batchsize = 10 ,那么训练完整个样本集:iteration=50,epoch=1.

batch: 深度学习每一次参数的更新所需要损失函数并不是由一个数据获得的,而是由一组数据加权得到的,这一组数据的数量就是batchsize。

本文链接http://element-ui.cn/article/show-218958.aspx