继续读资料
让基础模型继续读一批新资料,适合补充领域词汇和表达方式。
这里只帮你理清下一步。你的选择只留在当前页面,不上传数据,也不会生成训练任务。
内容会持续变化,训练后的知识也会再次过期。
还没有可用于核对的样本。
还没有可用于核对的样本。
还没确定用什么电脑、花多少钱或在哪里运行。
默认不保存;只有点击保存后,受控状态才留在当前设备。
只保存计划名称与现有受控选项,不保存样本、提示词、模型输出、日志、凭据或个人信息;不会上传到 AI 年鉴服务器。
先说清楚拿谁比较、怎样算变好、变差怎么办,再去填写模型配置。你填写的内容只留在当前页面,不会上传到服务器。
# 未命名训练计划 - 拿谁来比较:现在的资料检索或提示词方案 - 怎么判断有没有变好:问题答对了多少 - 什么结果才算通过:原来会做的事不能变差 - 变差了怎么办:只要关键问题变差,就换回原版本 - 训练资料和验收题:还没确认是否分开 - 开始前检查:还没完成 - 确认这些资料可以拿来训练:尚未确认 - 个人和机密信息已经处理:尚未确认 - 训练资料和验收题没有混在一起:尚未确认 - 安排好人工检查:尚未确认 > 这是训练前计划,不是训练结果。上面的检查由填写者自己确认,不代表 AI 年鉴保证法律合规、隐私安全或训练效果。训练完成后,要和原来的版本比较,并记录变好的地方、失败案例、花了多少资源,以及最后是否换回原版本。
只记录准备状态和检查重点,不填写或上传任何训练样本、提示词和模型输出。
先做判断,再看相关资料。电脑数字只是估算,生成的设置草稿也不等于一定能训练成功。
同一个模型不一定适合所有学习方式,先看你的目标和手里的资料。
让基础模型继续读一批新资料,适合补充领域词汇和表达方式。
给模型看“问题和好答案”的示例,让它学会固定的任务或对话方式。
先训练一个“评分员”,让它学会判断答案好不好。
根据评分结果反复调整模型的回答方式。
每次给出两个答案,让模型学习人们更喜欢哪一个。
给答案标上“好”或“不好”,让模型朝更好的方向调整。
一边学习正确答案,一边学习人们更喜欢的表达方式。
不再额外准备一个评分模型,直接学习哪种答案更受认可。
下面的数字只用来估算,实际还会受模型和电脑设置影响。
模型里每个部分都跟着改,效果空间大,但最吃电脑和时间。
只改模型里负责这项任务的部分,其他部分保持不动。
另外加一小层专门学新任务,原来的模型基本不动,比较省资源。
先把模型压缩,再用小适配器学习,通常更省显存,但要确认电脑支持。
我们只讲格式和注意事项,不会上传、读取或代管你的数据。
每条资料按“问题、补充信息、答案”三部分整理。
把一问一答一轮轮排好,适合训练连续对话。
这是官方说明里的大致数字,实际需要多少还要看模型、文字长度和电脑设置。
| 省资源的方式 | 计算方式 | 7B | 14B | 30B | 70B |
|---|---|---|---|---|---|
| 全部更新 | 常规精度 | 120GB | 240GB | 600GB | 1200GB |
| 全部更新 | 常规精度(纯 BF16) | 60GB | 120GB | 300GB | 600GB |
| 加一小层适配器 | 16 位精度 | 16GB | 32GB | 64GB | 160GB |
| 压缩后加适配器 | 8 位压缩精度 | 10GB | 20GB | 40GB | 80GB |
| 压缩后加适配器 | 4 位压缩精度 | 6GB | 12GB | 24GB | 48GB |
| 压缩后加适配器 | 2 位压缩精度 | 4GB | 8GB | 16GB | 24GB |
显存表只是大概数字,实际还会受模型大小、一次输入多长、一次处理多少条资料、显卡如何协同和软件版本影响,不能当作硬件保证。
这里只记录受控的结论,不填写验收题、模型输出、日志或任何私有业务资料。
把结果看完整,再决定继续试用、修改资料,还是换回原来的版本。这里不会读取你的模型或训练文件。
训练结果不能只看一个分数,先把下面几项都看过,再决定是否继续使用。
这里只显示我们已经找到公开说明、并人工核对过的模型。
DeepSeek-V3 · 使用格式代号:deepseek3
下面是官方资料的原文,主要用来核对信息;先看上面的中文说明即可。
LlamaFactory README names DeepSeek 3-3.2 with template deepseek3, Llama 4 with template llama4, Qwen3 with templates qwen3/qwen3_nothink, and lists pretraining, SFT, reward-model, PPO, DPO, KTO, ORPO and SimPO training methods. It states that instruct/chat models must use their corresponding template.
这两个名称会写进设置文件,请用英文字母、数字、点、下划线或短横线。
Llama 4 Scout · 使用格式代号:llama4
下面是官方资料的原文,主要用来核对信息;先看上面的中文说明即可。
LlamaFactory README names DeepSeek 3-3.2 with template deepseek3, Llama 4 with template llama4, Qwen3 with templates qwen3/qwen3_nothink, and lists pretraining, SFT, reward-model, PPO, DPO, KTO, ORPO and SimPO training methods. It states that instruct/chat models must use their corresponding template.
这两个名称会写进设置文件,请用英文字母、数字、点、下划线或短横线。
Qwen3-235B-A22B · 使用格式代号:qwen3
下面是官方资料的原文,主要用来核对信息;先看上面的中文说明即可。
LlamaFactory README names DeepSeek 3-3.2 with template deepseek3, Llama 4 with template llama4, Qwen3 with templates qwen3/qwen3_nothink, and lists pretraining, SFT, reward-model, PPO, DPO, KTO, ORPO and SimPO training methods. It states that instruct/chat models must use their corresponding template.
这两个名称会写进设置文件,请用英文字母、数字、点、下划线或短横线。
Qwen3-235B-A22B-Instruct-2507 · 使用格式代号:qwen3_nothink
下面是官方资料的原文,主要用来核对信息;先看上面的中文说明即可。
LlamaFactory README names DeepSeek 3-3.2 with template deepseek3, Llama 4 with template llama4, Qwen3 with templates qwen3/qwen3_nothink, and lists pretraining, SFT, reward-model, PPO, DPO, KTO, ORPO and SimPO training methods. It states that instruct/chat models must use their corresponding template.
这两个名称会写进设置文件,请用英文字母、数字、点、下划线或短横线。
Qwen3-235B-A22B-Thinking-2507 · 使用格式代号:qwen3
下面是官方资料的原文,主要用来核对信息;先看上面的中文说明即可。
LlamaFactory README names DeepSeek 3-3.2 with template deepseek3, Llama 4 with template llama4, Qwen3 with templates qwen3/qwen3_nothink, and lists pretraining, SFT, reward-model, PPO, DPO, KTO, ORPO and SimPO training methods. It states that instruct/chat models must use their corresponding template.
这两个名称会写进设置文件,请用英文字母、数字、点、下划线或短横线。
Qwen3-30B-A3B · 使用格式代号:qwen3
下面是官方资料的原文,主要用来核对信息;先看上面的中文说明即可。
LlamaFactory README names DeepSeek 3-3.2 with template deepseek3, Llama 4 with template llama4, Qwen3 with templates qwen3/qwen3_nothink, and lists pretraining, SFT, reward-model, PPO, DPO, KTO, ORPO and SimPO training methods. It states that instruct/chat models must use their corresponding template.
这两个名称会写进设置文件,请用英文字母、数字、点、下划线或短横线。
Qwen3-32B · 使用格式代号:qwen3
下面是官方资料的原文,主要用来核对信息;先看上面的中文说明即可。
LlamaFactory README names DeepSeek 3-3.2 with template deepseek3, Llama 4 with template llama4, Qwen3 with templates qwen3/qwen3_nothink, and lists pretraining, SFT, reward-model, PPO, DPO, KTO, ORPO and SimPO training methods. It states that instruct/chat models must use their corresponding template.
这两个名称会写进设置文件,请用英文字母、数字、点、下划线或短横线。