术语定义

批大小(Batch Size),中文通常称为批大小。一次计算或一次参数更新所使用的样例数量,具体含义需区分微批与有效批大小。

应用示例

显存有限时分成多个小批次,再累积梯度完成一次更新。

理解要点

增大批大小会改变资源消耗和训练动态,不只是速度设置。

相关术语