描述基础模型训练完成后用于指令遵循、推理、偏好和安全行为塑造的阶段。
描述基础模型训练完成后用于指令遵循、推理、偏好和安全行为塑造的阶段。
在 AI 年鉴中,后训练 属于“后训练”知识分类,并与 11 条已审核模型版本事实建立关联。
术语解释用于理解字段含义,不能替代具体模型版本的来源、条件和证据。
术语页解释字段含义与阅读边界;具体模型的参数、条件和结论仍要回到对应版本记录和来源核对。
后训练可能包含监督微调、偏好优化、强化学习、推理轨迹训练、安全对齐和能力融合。具体方法、数据和阶段必须以模型团队公开的技术资料为准。
“经过对齐”“支持思考”不能单独证明使用了 RLHF、DPO 或蒸馏;不同团队对 post-training 的阶段划分也可能不同。