术语定义
批大小(Batch Size),中文通常称为批大小。一次计算或一次参数更新所使用的样例数量,具体含义需区分微批与有效批大小。
应用示例
显存有限时分成多个小批次,再累积梯度完成一次更新。
理解要点
增大批大小会改变资源消耗和训练动态,不只是速度设置。
批大小(Batch Size),中文通常称为批大小。一次计算或一次参数更新所使用的样例数量,具体含义需区分微批与有效批大小。
显存有限时分成多个小批次,再累积梯度完成一次更新。
增大批大小会改变资源消耗和训练动态,不只是速度设置。
跑一轮真实检测,拿到评分和问题清单。