2021-12-31 · 董事长寄语
2021 年干成的事不多,但有一件是实打实的:策略层和 Transformer 联合训练的框架,今年跑通了。说"跑通"而不说"做出来了",是因为这个框架现在还很糙,但糙和不是一回事——糙可以改,不通就什么都别谈。
2020 年的原型里,策略层是模型外面的一个后处理模块:模型出结果,策略层做筛选。这种方式的问题是策略层拿不到模型的中间表示,决策质量被模型输出格式卡死。我们今年试着把策略层塞进 Transformer 的最后几层,让决策和推理共享参数空间。方向对了之后,精度确实提升了一截,但训练过程变得很不稳定,前前后后花了好几个月才调通。最大的坑是学习率:策略层参数量小,模型参数量大,用同一个学习率根本训不动,最后用分层学习率才勉强收敛。这个方案很 hack,我们到现在也没找到更优雅的做法,就让它先那样着吧。
行业里 2021 年最响的事,是 AIGC 这个词开始流行,文生图、文生文都在快速迭代。说实话我们看着挺焦虑的,但焦虑完发现我们的方向不太受冲击——AIGC 解决的是"生成什么",我们做的是"约束下选什么",两件事的交集比想象的小。这个判断让我们安了一年心。另外推理硬件的成本这一年在降,对我们这种不训大模型的公司是好消息:小模型的部署门槛越来越低,测试的代价越来越便宜。
这一年的侧项目是无线电频谱智能和反无人机系统。听起来很硬核,实际做起来一半的时间在折腾硬件和射频,另一半在调模型。频谱数据和我们平时用的文本数据完全不是一个脾气:噪声大、标注难、一条数据采回来常常是废的。做反无人机的时候,我们第一次感受到"实验室指标"和"外场表现"之间隔着一条河——室内演示效果很好,外场一风吹过来,指标掉得厉害。这件事教会我们比任何论文都多。
内部这一年还做了三个小测试:一个简单调度问题,结果比启发式算法好、比整数规划差,但推理速度快了两个数量级;一个文档摘要,让模型在信息密度和可读性之间做平衡,效果一般但验证了多目标约束可行;一个异常检测,给结果加了个置信度门槛,误报降了,漏报也多了,至今没调利索。年底团队还是老几个人,办公室没搬,但技术栈的基本形态定下来了:Transformer 做感知和推理,策略层做约束和决策,两者联合训练。框架是糙的,但它是我们的。2022 年大概率还是这个节奏:不追 AIGC,把框架从"能跑"磨到"好用"。糙一点不怕,怕的是停在路上。