Encyclopedia
GEO百科
从 GEO、LLM 到 Agent、Prompt，每个词条讲清一个概念。通过定义、应用示例和概念辨析，建立 AI 与生成式引擎优化的知识体系。
词条列表
训练与优化
过拟合
模型过度适应训练数据中的细节或噪声，导致对新数据的表现下降的现象。
训练与优化
预训练
在适配特定下游任务前，先利用较广泛的数据学习通用表示或生成能力的训练阶段。
训练与优化
剪枝
移除或屏蔽部分权重、通道或结构，以降低模型复杂度的压缩方法。
训练与优化
QLoRA
结合量化基础模型与低秩适配器训练的微调方法，用较低内存成本适配大模型。
训练与优化
量化
用较低精度的数值表示模型权重或激活，以减少存储、带宽或计算成本的技术。
训练与优化
强化学习
让决策系统通过与环境交互、获得奖励反馈来学习行动策略的方法。
训练与优化
奖励模型
为模型输出或行动估计质量分数的模型，可作为训练或选择候选结果的信号。
训练与优化
RLHF
利用人类偏好或评价构建反馈信号，再通过强化学习调整模型行为的一类方法。
训练与优化
自监督学习
从数据自身构造训练目标，而不依赖逐条人工标签的学习方式。
训练与优化
SFT
用带有目标输出的样例继续训练模型，使模型学习期望的输入输出映射。
共 25 个词条 · 持续更新中