术语定义

预训练(Pretraining),中文通常称为预训练。在适配特定下游任务前,先利用较广泛的数据学习通用表示或生成能力的训练阶段。

应用示例

语言模型通过大量文本学习词语、句法和知识表达模式。

理解要点

预训练中见过某类内容不意味着模型会准确记住或实时更新全部事实。

相关术语