描述模型从数据处理、预训练到训练计算的主要阶段。
描述模型从数据处理、预训练到训练计算的主要阶段。
在 AI 年鉴中，预训练与训练流程 属于“训练”知识分类，并与 9 条已审核模型版本事实建立关联。
术语解释用于理解字段含义，不能替代具体模型版本的来源、条件和证据。
术语页解释字段含义与阅读边界；具体模型的参数、条件和结论仍要回到对应版本记录和来源核对。
预训练通常使用大规模数据学习通用表示，训练流程还可能包含数据清洗、去重、配比、课程安排、长上下文扩展和计算资源配置。只有来源明确披露的 Token 数、数据范围和训练阶段才能作为模型事实。
不能根据参数规模、模型名称或社区传言反推出训练数据量、训练算力或完整数据集；公开总 Token 数也不代表数据内容全部公开。