简介:本文对比两种基座模型研发路径:由1名研究员与AI Agent协作、3.5个月完成编码专用基座模型的极小团队模式,与多角色大团队分工协作的传统模式。文章从组织分工、代码产出方式、成本周期、数据策略、模型定位与评测表现等维度梳理二者异同,并给出场景化选型建议与落地注意事项,帮助技术决策者快速判断哪条路径更契合自身条件。
大模型研发长期以来被默认为一项“重资源、重人力”的工程:数十人规模的多角色团队、以年计的迭代周期、高昂的算力与数据投入。而某初创研发团队近期公开的一项实践提供了另一种参考路径:仅由1名人类研究员与AI Agent协作,在3.5个月内、以不到1000万美元的公开成本口径,完成了一个参数规模100B–500B的编码专用基座模型,其中超过99%的代码由Agent编写,训练数据全部来自公开来源,未做蒸馏、未使用合成数据。该模型作为其系列模型的首发产品对外发布,并在新代码仓库bits per byte交叉熵评测(指标越低越好)中取得0.222的成绩,排名第二,仅次于某通用大模型的0.193,领先多个主流MoE架构大参数模型。
这一实践引出了技术决策者普遍关心的问题:Agent深度参与的极小团队研发模式(下文称方案A)与传统多角色大团队研发模式(下文称方案B),本质区别在哪里?各自适合什么团队与目标?若切换到方案A,需要提前评估哪些风险?本文围绕这些问题展开系统对比。
方案A:Agent深度参与的极小团队研发模式。 人力配置为1名人类研究员加上承担执行的Agent;分工边界非常清晰:Agent负责写代码、跑实验、错误排查等执行性工作,人类研究员负责决定尝试哪些研究方向、判断哪些实验结果值得相信,并在关键节点进行干预。产出为一个编码专用基座模型,即完成预训练、面向编码场景、未经下游指令微调的底座模型,参数规模100B–500B。
方案B:传统多角色大团队研发模式。 由研究科学家、算法工程师、数据工程、基础设施、评测等职能角色协同,通常涉及数十人以上;从架构设计、编码实现、实验执行到运维验证均以人类为主导,工具链起辅助作用。当前榜单上的主流通用MoE架构大参数模型多由这一模式产出。
需要强调的是,二者产出的都是“基座模型”,技术目标层面并非两类物种,真正的差异发生在“怎么把模型做出来”这一过程层面。
尽管人力结构差异巨大,两种模式在技术逻辑上高度一致,这是理解对比的前提:
因此,方案A的本质不是“降低工程标准”,而是“换一种人力资源组织方式完成同样的工程”。
方案B中,沟通、对齐、评审等协作成本随人数增长而超线性上升,大量人力消耗在“把人对齐”而非“把事做成”。方案A把协作对象从“多人”压缩为“一人加Agent”,人类的价值被集中到杠杆最高、对齐成本最低的环节:决定尝试什么方向、判断哪些结果值得相信。执行环节的边际成本从“人力成本”转变为“算力成本”,这正是其人效杠杆的来源。
方案B的代码主要由人类工程师编写,AI工具起补全与辅助作用;方案A中超过99%的代码由Agent编写,人类从“写代码的人”转变为“验收代码与结果的人”。这一转变对人类角色的能力要求并非降低而是重构:需要更强的架构判断力、实验鉴别力与结果审查能力,而非单纯的编码产出能力。关键节点的干预设计(何时必须由人拍板)成为方案A成败的核心变量。
按公开口径,方案A的周期为3.5个月、成本不到1000万美元。在同等模型规模下,方案B的人力成本、协作成本与周期通常显著更高。但这里必须做条件化判断:方案A的成本优势建立在目标收敛(编码专用)、数据边界清晰(仅公开数据、无蒸馏、无合成数据)的前提下。若目标是通用能力全面领先的大参数旗舰模型,多线并行探索不可避免,方案A的成本曲线未必能简单复现。
方案A刻意选择了最“干净”的数据路线:训练数据仅来自公开代码托管平台上的开源代码、公开网页与公开数据集,不购买商业授权数据,不做模型蒸馏,不使用合成数据。这一策略带来两个直接收益:一是法律与合规风险低,数据来源清晰可追溯;二是评测成绩的可信度高,模型能力不依赖某个教师模型的能力上限。代价则是放弃了蒸馏与合成数据在特定能力上的增益空间,因此对数据混合的高级调优提出了更高要求——这也是其改进工作的重点之一。
方案A的产出是编码专用基座模型,把全部优化预算集中在编码场景;对标的方案B代表模型多为通用MoE架构大参数模型,能力覆盖面更广。在编码垂直指标上,专用模型可以逼近甚至局部超越通用模型(0.222对0.193的交叉熵成绩即为体现);但在数学、推理、多语言等更宽的任务面上,通用大参数模型通常仍保留优势。这是“垂直深挖”与“横向铺开”两条技术路线的典型取舍。
在预测代码库任务中,方案A模型与多个MoE架构大参数模型同台评测,且在训练截止后新发布的外部代码库上接受检验——这是一种较强的防泄漏设计。结果表明:在垂直领域,严谨的数据策略叠加架构与kernel层面的针对性优化,可以在不依赖最大参数量的情况下进入第一梯队。同时也应看到,其与榜首通用模型之间仍存在指标差距,垂直专用并不等于全面领先。
| 对比维度 | 方案A:极小团队+Agent | 方案B:传统大团队 |
|---|---|---|
| 人力配置 | 1名研究员 + Agent执行 | 多角色数十人以上 |
| 分工方式 | 人定方向、Agent执行 | 按职能切分、人类主导执行 |
| 代码来源 | 超过99%由Agent编写 | 以人类工程师为主 |
| 周期与成本 | 3.5个月、不到1000万美元(公开口径) | 周期与人力成本通常更高 |
| 数据策略 | 仅公开数据,无蒸馏、无合成数据 | 策略多样,可能包含授权数据、蒸馏、合成数据 |
| 模型定位 | 编码专用基座,100B–500B | 多为通用MoE架构大参数模型 |
| 评测表现 | 新仓库交叉熵0.222,排名第二 | 榜首通用模型0.193居首 |
| 主要风险 | 结果审查、安全审计、知识单点化 | 协作成本高、迭代节奏慢 |
更适合方案A的场景:一是目标明确收敛在垂直领域(如编码)的基座模型,优化边界清晰;二是团队拥有极强的人类决策者,能鉴别实验结果的可信度,并对Agent工程化有深入掌握;三是预算与时间受限,但能接受从零搭建训练基础设施;四是数据合规要求高,倾向只使用公开数据、回避蒸馏与合成数据带来的不确定性。
更适合方案B的场景:一是目标是通用能力全面、多任务领先的旗舰模型,需要多线并行探索;二是涉及多模态、对齐、安全等需要多专业深度协作的方向;三是计划采用商业授权数据、蒸馏、合成数据等更复杂的数据策略,需要专职数据团队支撑;四是组织已具备成熟的多角色协作、评审与质量体系,边际协作成本较低。
对希望从方案B切换到方案A,或在现有流程中引入Agent执行层的团队,建议按以下清单评估:
示意性的验收流程(伪代码):
while agent 产出新的实验结果:if 结果涉及架构变更或数据策略调整:提交人类审查并批准复核指标计算方式与数据来源合规性在训练截止后新发布的外部数据集上回归验证将决策依据与结果归档至知识库
方案A与方案B的分歧不在“做什么”,而在“怎么做”。方案A通过“人类专注方向与判断、Agent承接执行”的分工,把研发过程的人力成本压缩到极限,并以严格的公开数据策略和完整的技术改进链条,产出了在编码垂直评测中进入第一梯队的基座模型;方案B则以多角色协作换取更广的探索带宽与更强的通用能力上限。对技术决策者而言,关键不是判定孰优孰劣,而是评估自身目标的收敛程度、核心决策者的密度、数据合规边界与基建承接能力,再选择相匹配的研发组织方式。在垂直目标明确、合规要求严格、决策者能力突出的条件下,Agent深度参与的极小团队模式展现出可复制的人效杠杆;而在通用能力竞争与多线探索场景中,传统团队模式仍是更稳妥的路径。