当前位置: 网站首页 >AI教程资讯 >正文

美团新模型有点东西:像调度外卖运力一样优化大模型

来源:爱论文 时间:2025-09-03 17:48:10

算力,就像运力一样,也要学会调度。

假如你在深夜点了一份外卖。几分钟后,系统迅速给你派来最近的骑手,他不需要全城出动的大军,只要顺路接单,就能把一碗热汤准时送到你手里。

美团正在把这种“派单逻辑”搬到AI世界。

在最新发布的LongCat-Flash模型里,算力不再是一股脑砸上去,而是像运力一样被精准调度:复杂问题派更多“高手”,简单问题就近解决,最大限度减少浪费。

美团最近的财报,和所处的竞争环境,让它需要新的故事。而LongCat-Flash,就是美团递出的第一张**:在大模型赛道开打另一场战斗,把百万tokens的推理成本压到0.7美元。

以下为LongCat-Flash技术文档解读:像管理运力一样管理算力

1

技术创新:算力活在算法中

首先,LongCat-Flash的特别之处,不在于它“更大”,而在于它会“精打细算”。

它的总参数规模有5600亿,但在实际推理时,每个token只需要调用一小部分,大约18.6B–31.3B。可以把它想象成一个庞大的骑手团队,不是每一单都要全员出动,而是根据订单的难度,派出最合适的几位骑手去送。这样一来,既能保证覆盖面,又避免了算力浪费。

而所谓“零计算专家”,其实就是处理简单任务的捷径。

比如,一单只是送楼下便利店的一瓶水,就不需要总部复杂调度,附近的小哥顺路就能完成。同样,LongCat-Flash遇到简单的token,就直接放行,不浪费多余算力,把资源留给真正复杂的任务。这种“按需分配”的逻辑,让模型像调度运力一样,把活派得更合理。

上图中展示了LongCat-Flash的整体架构:每层由多头潜在注意力(MLA)+MoE专家组成,其中一部分是零计算专家,保证遇到简单token时可以“零开销”直接通过。

下图中(a)曲线显示:在相同算力预算下,加入零计算专家的模型loss更低,收敛更快;(b)激活专家数稳定在8个左右,平均约27B参数;(c)不同token之间算力分配差异明显,说明模型确实在“挑单子”。

另一个创新点叫ScMoE(Shortcut-connectedMoE)。传统模型要等一批任务全部处理完,再进入下一批,就像骑手要等所有订单派完才能出门。

ScMoE的思路是“边派边送”:骑手在送餐的同时,系统已经开始为他规划下一单。这样,算力的使用和通信可以同时进行,整体效率自然提升。

图中三组曲线(不同模型规模)显示:有无ScMoE的loss几乎重合,质量完全一致,但由于通信和计算可以重叠,ScMoE在吞吐率和推理速度上显著提升。

2

工程能力:给算力买个“社保”

规模大,速度快只是第一步,关键是能不能稳定运行。LongCat-Flash的训练方式更像是在逐步扩张一个运力网络:先在小范围试运行,把调度规则、路线规划都调好,再推广到更大的范围,避免一上来就乱成一团。

为了防止系统崩溃,它设置了“三重保障”。Router稳定,相当于避免所有订单都集中在一条线路;激活稳定,让算力使用更合理;优化器稳定,则保证整体调度有节奏,长期能跑下去。正是靠这一套机制,它在30天里完成了20万亿tokens的训练任务。

3

性能比较:表现稳健

从成绩单来看,LongCat-Flash不只是推理快,在各大基准测试中同样表现稳健:

通用任务

在MMLU(89.71)和CEval(90.44)中,LongCat-Flash达到与国际一线模型相当的水准。虽然CEval分数略低于Kimi-K2(91.26),但整体表现依旧领先大多数基线模型,展现了不错的中文理解能力。

复杂推理

在GPQA-diamond(73.23)上,LongCat-Flash与同类模型保持相近水准;在DROP(79.06)、ZebraLogic(89.30)、GraphWalks-128k(51.05)等测试中,也稳定处于中上游梯队。

数学能力

在MATH500(96.40)和AIME24(70.42)上,LongCat-Flash与Kimi-K2、DeepSeek相比差距不大,维持在高水平。在BeyondAIME(43.00)上虽有下滑,但整体仍优于多数模型。

编程任务

在HumanEval+(88.41)、MBPP+(79.63)等benchmark上,LongCat-Flash表现稳定,略低于Kimi-K2(93.29、79.87),但依旧优于Gemini2.5Flash、ClaudeSonnet等对手。

4

实测美团LongCat-Flash:快

其实从上面的测试基准中可以看到,美团LongCat-Flash的性能并没有遥遥领先的地方,只能算是与各大主流模型能力旗鼓相当。因此在很多常用的测试中看不出差别,但有一点:

美团这个模型是真的快。

写一个Python函数is_prime(n),判断n是否是质数,并给出10个不同的测试样例。

左边模型是LongCat-Flash网页端,右边是kimi1.5(根据官网描述,响应更快),可以看到同样的提示词,LongCat-Flash没有怎么思考,一行行内容直接飞出来,而kimi1.5经过短暂思考后,(和LongCat-Flash相比)慢悠悠的把内容写出来。

在核心代码部分,二者也没差别,可以说LongCat-Flash又快又好。

LongCat-Flash的速度和价格优势,未必能立刻改写行业格局。毕竟在大模型市场,生态和用户习惯往往比性能参数更具粘性。但它却透露出一个信号:美团依然习惯用自己最擅长的打法,把复杂的科技问题翻译成“调度运力”的逻辑,再用价格杠杆撬开市场。

这让问题变得更有趣:

当AI巨头们在谈模型规模、参数精度时,美团却在谈派单效率和成本曲线。它看似“接地气”的切入点,反而可能成为搅动格局的变量,就像曾经的DeepSeek那样。

十年前,美团用补贴烧出了外卖帝国。十年后,它是否能靠另一场价格战,把自己送进大模型的牌桌?没人能给出答案,但至少可以确定的是,美团已经递出了第一张**。

上一篇:Palantir靠什么成为AI商业化第一股?和川普的关系吗?
相关资讯 更多+
最新录入 更多+
确定