2026-11-17 · 董事长寄语
2026 年我们折腾得最多的事,是多智能体协作。说"折腾"是因为这件事我们在内部立项的时候,预期是今年能落地一个像样的东西,结果到 11 月,我们手里只有一个还算能用的原型,和一个比预期少得多的效果数字。我先讲一下为什么做这件事,再讲卡在了哪里。
起因是我们上半年在聊一个供应链的测试场景:采购关心成本,生产关心交期,仓储关心容量,三个环节的约束互相打架。以前我们的做法是把这些约束全塞进一个策略层里,让它统一决策。塞是能塞,但策略层每加一个约束,训练时间就长一截,调参也开始玄学化。到后面我们隐约意识到,这不是策略层不够强,而是这件事本来就该分给几个不同的决策单元去做。于是我们试着把策略层拆成三个实例,每个管一个环节,中间加一个协调层负责传信息。想法本身并不复杂,复杂的是三个实例之间到底怎么对话——传什么、什么时候传、传错了怎么办,这些细节我们前前后后试了四种协议,到年中才收敛到一个还说得过去的版本。
行业里这一年的变化比我们想象的大。年初的时候大家还在讨论单个模型的能力边界,到下半年,多智能体协作已经从论文里的概念变成了产品里的事实——好几家大厂的开源框架都内置了 agent 编排层,"让多个模型分工干活"成了新的默认假设。说实话这个节奏比我们预想的快,也有点被动:我们的多智能体研究原本是 2025 年底才立项的,立项时以为这是个前瞻方向,结果 2026 年它变成了基础设施。这种"以为在领先,其实在跟进"的感觉,我们这几年已经体会过两次了。还有一个绕不开的背景:模型推理的硬件成本今年又降了一截,8B 级别的模型推理成本比 2025 年低了不少,这直接改变了一些商业测算——去年还"不划算"的场景,今年算一算居然能跑正了。
年中我们跑通了第一个完整的演示:五个环节的供应链,采购说买一千个,生产说只要八百个,协调层触发仲裁,最后由一个高优先级实例拍板。演示效果是好的,我们内部还截了图。但真正上数据的时候,问题全出来了。各环节的数据格式根本不统一——采购用一套编码,仓储用另一套,中间对不上。信息在环节之间传递的时候损耗很大,我们测下来,多智能体方案比单策略层只好了 15% 左右,远没有演示里那么惊艳。说实话这个数字让我挺失落的,但更让我想清楚了一件事:瓶颈不在架构,在数据。我们花了一年研究"怎么让多个决策单元协作",结果发现真正的难题是"怎么把脏数据洗干净"。这件事不性感,写进年度总结也不起眼,但它是我们 2027 年绕不开的工作。
除了多智能体,今年还有两件小事值得一提。一是推理优化,我们试了投机解码,效果比预想的好一些,8B 模型的推理速度比去年快了四成,这个提升是实打实的,部署成本降了一点。二是在 Llama-3 上做了领域微调,叠加我们的策略层。效果比纯通用模型好,但差距没有 2024 年第一次做的时候大——说白了,通用模型自己变强了,我们的增量空间被压缩了。这件事我们心里清楚,只是之前一直没敢说。
写这篇寄语的时候是 11 月中旬,离年底还有十几天。我回头看了 2020 年写的第一篇,那时候我们五个人,在租来的办公室里连服务器都是二手的。六年过去了,人还是那些人,办公室搬过一次,方向没变过。行业这几年换了三轮风口,我们每次都没追,每次也都活着。2027 年大概率还是这么过:不追风口,把脏数据的问题啃下来,把多智能体从原型变成能用的东西。不羡慕别人家的马肥,我们很快也能拥有全能、好用的 AI 体系。