让学生模型从教师模型的输出、表征或轨迹中学习。
让学生模型从教师模型的输出、表征或轨迹中学习。
在 AI 年鉴中,知识蒸馏 属于“模型压缩与迁移”知识分类,并与 1 条已审核模型版本事实建立关联。
术语解释用于理解字段含义,不能替代具体模型版本的来源、条件和证据。
术语页解释字段含义与阅读边界;具体模型的参数、条件和结论仍要回到对应版本记录和来源核对。
知识蒸馏可以传递 logits、token 概率、隐藏状态、回答或推理轨迹,也可能发生在预训练、后训练或任务适配阶段。蒸馏关系必须记录教师、学生、数据/轨迹和训练阶段。
社区猜测不能作为权威蒸馏关系;来源只说“受某模型启发”时,不应直接写成 distill。