美团发布LongCat-2.5:1.6万亿参数原生多模态,主攻长程智能体与视觉编程

美团新模型来了,重点是把长任务做完

美团发布LongCat-2.5,将原生视觉理解与智能体编程结合,进一步向复杂代码库开发、完整项目构建和专业办公任务推进。

11月2日,美团技术团队通过官方公众号介绍了这款新模型。LongCat-2.5基于LongCat-2.0继续升级,总参数量达到1.6万亿,每个Token激活约480亿参数,采用MoE架构。它的核心方向不是只在一次问答中给出更好的回答,而是在需要多轮操作、调用工具和反复验证的工作中持续完成任务。

这次发布的看点可以概括为三条:原生多模态让模型更直接地处理视觉与文本;长程强化学习强化工程执行;国产算力上的训练与量化优化,支撑大规模模型的实际运行。

LongCat-2.5:美团原生多模态模型发布,长程智能体与视觉编程概念配图

从看懂图片,到生成可交互的网页与3D场景

视觉和文字进入统一Token体系

LongCat-2.5将视觉信号转换为多层级离散Token,让主干模型以统一形式处理图像与文本。其视觉离散化沿用LongCat-Next的方法,对原生分辨率视觉特征进行残差向量量化,减少离散表示中的信息损失。视觉码本的嵌入表示则与主干模型一起学习。

这套设计也服务于训练效率:固定的视觉Tokenizer可以提前计算并缓存图像Token,主干训练不必每次在线运行视觉编码器,长序列打包、切分和不同设备间的负载管理因此更容易统一。

团队还展示了平均激活参数约3B的小规模MoE验证结果,视觉和文本嵌入在可视化中呈交织分布。这是辅助说明视觉与语言融合的实验,不能把3B误读为LongCat-2.5正式模型的激活规模。

八个演示覆盖开发与办公

官方展示了八个由LongCat-2.5端到端生成的案例,目标不止是静态页面,也包括交互、数据处理与业务流程:

  • 实时流体模拟:构建带动态物理效果的交互网页,用于视觉特效和科普展示。
  • 商业经营分析:整合多渠道经营数据、统一口径、计算利润,并形成营销、库存、供货和预算配置建议。
  • 3D文物展示:以三星堆青铜神树等模型为例,实现拖拽旋转、滚轮缩放、双击聚焦、线框切换及文化信息面板。
  • 客户反馈报告:识别重复与更新信息,按严重程度、紧迫性和业务目标排序,并支持点击回看原始反馈。
  • 城市沙盘:生成道路、建筑和等距视角交互,保持低多边形场景的整体光影风格。
  • 中国风色彩美学页:把主题色卡、科普文案和动态视觉展示整合到一个页面。
  • 微缩场景资产:以旋转木马为例,展示复杂结构、重复元素、材质和3D视口交互。
  • 活动邀请函生成器:根据场地照片和自然语言需求生成邀请及报名网页,连接报名、名单查看和表格导出。

这些演示由发布方提供,集中传达了新版本的产品方向:把视觉理解、代码实现和最终交付连接起来,而不是仅生成一张效果图。

长程强化学习:让Agent少兜圈子,多完成工作

用可验证任务训练工程能力

面向复杂代码库和完整项目,团队在长序列训练中加入更多长程轨迹,并扩展Agentic RL训练链路。任务来自GitHub公开仓库和内部真实代码场景,围绕PR与Issue生成可交互环境,再用“修复前失败、修复后通过”的F2P测试及保证原有功能不受影响的P2P测试验证。

训练过程中,团队继续分析任务通过率以及测试的假阴性、假阳性,修正验证信号;真实Agent的失败轨迹也被转成可复现、可验证的新任务,补充模型暴露出的短板。

长任务耗时不一,训练系统采用可中断、保存和恢复轨迹的异步策略,减少少数超长任务拖慢整个批次的问题。同时对历史模型生成的陈旧样本进行约束,降低其对当前训练的偏置。

不只奖励成功,也约束投机与重复

团队通过训练环境断网、清理Git历史和文件缓存,以及引入模型评审等手段,减少模型绕过任务目标“刷奖励”的机会。重复思考、反复调用相同工具会受到额外惩罚,过度思考和输出长度过快增长也被纳入优化。

此外,模型通过跨任务、跨Scaffold的混合训练学习适应不同运行框架,并沿用多专家在线教学机制,将智能体执行、推理、指令遵循和交互体验等能力融入主线模型。为处理长回复中的训练分布偏移,团队把教师回复进一步切成固定长度前缀,配合共享Prefill、KV缓存及Tree Attention,减少重复计算与存储。

官方评测:代码、通用Agent和视觉任务同步推进

官方公布了多类评测。以下选取LongCat-2.5与上一代的部分成绩,便于观察同系列迭代幅度,数字沿用发布方表格口径:

评测项目 LongCat-2.5 LongCat-2.0
Terminal Bench v2.1 88.4 70.8
Terminal Bench v4.0 38.5 3.0
Program Bench(Almost Resolved) 25.5 2.5
DeepSWE v1.1 64.6 9.7
PaperBench 82.1 45.2
BrowseComp 91.9 79.9
AutomationBench v1.0.6 51.8 15.8
MCP Atlas 83.1 61.8

视觉类项目中,LongCat-2.5的3DCodeBench(Text→3D)为55.4,Vision2Web为78.6,VideoMME为85.2。官方还提供了与GPT-5.5、GPT-5.6-Sol、Claude-Opus-4.8、Claude-Opus-5等模型的对照,不同项目各有高低,并非单一模型包揽所有领先成绩。

上述结果来自发布方披露,并非本站实测。除另有说明外,LongCat-2.5开启思考,使用temperature=1.0、top_p=0.95;对照表带星号的成绩取自公开技术报告、博客或榜单,未标星的为团队自测。

评测也有具体环境边界:Terminal Bench等项目使用Claude Code Harness及512K最大序列配置,其中v2.1取三次运行平均;DeepSWE v1.1使用mini-swe-agent和1M最大序列配置,同样取三次平均。BrowseComp使用自研轻量Harness,最多探索1024轮,仅开放搜索与定向浏览工具。HLE工具版成绩仅覆盖文本子集。这些评测配置不能直接等同于线上所有用户的上下文额度或功能承诺。

国产算力优化:训练吞吐与推理效率一起提升

长序列训练吞吐较DDP基线提升86%

针对国产算力单卡显存不足80GB的限制,团队围绕超节点拓扑组织并行通信,并使用双重分片FSDP、混合词表并行、动态专家复制和通信计算重叠,降低显存与通信开销。

据官方披露,在所测长序列SFT任务中,这套FSDP配置的单卡吞吐量较DDP基线提升86%。这描述的是训练系统在特定任务中的收益,不是用户聊天速度提升86%。

长程强化学习还要求训练与推理计算尽量一致。团队使训练、Prefill与Decode可独立配置并行方式,同时保持逐Token对数概率的位级一致,并扩展张量并行和解码上下文并行的相关支持。

面对长上下文多轮任务,系统通过Prefill/Decode分离、分层缓存、跨层预取与容量感知调度,减少缓存重复占用和前缀反复重算。在其测试场景中,Decode的KV缓存容量可在不损失单Token输出时间的情况下接近翻倍;P/D实例3∶2是该负载下的最佳配比,而非所有场景的通用结论。

W4A4推理吞吐提升超过四成

LongCat-2.5的W4A4方案将专家权重与激活同时量化到4位,使用原生INT4矩阵乘法,并优化量化、通信、计算之间的数据路径。团队称,在已评测下游任务上,量化后表现与量化前相当。

在线上压测中,相对于W8A8 INT8基线:

  • Prefill吞吐提升43.3%,Decode吞吐提升42.77%;
  • 首Token时间TTFT降低15.91%,单输出Token时间TPOT降低19.72%;
  • GMM算子平均加速1.73倍。

这些指标对应团队特定模型与硬件部署的优化结果,不能直接换算成面向用户的价格降幅。

如何体验?开源与限时福利仍待后续公布

官方提供了LongCat在线体验和API产品入口,技术博客也链接了API文档。具体模型选择、账户权限和调用价格,应查看对应产品页面的实际展示。

截至本次发布介绍,GitHub与Hugging Face入口均标注“即将上线”或“敬请期待”,新模型限时福利也尚待上线,因此不能把本次模型发布写成“权重已经开源”或“API已限时免费”。

从这次披露来看,LongCat-2.5的主线已经很清晰:让模型不仅能读懂信息、生成内容,还能在长程工作流中连接视觉、工具、代码和交付产物。对开发者与办公用户,最值得关注的正是这条从单次生成走向完整任务执行的路线。

资料来源:美团技术团队官方发布、LongCat-2.5官方技术博客与完整评测。

关联文章推荐

关联问答推荐

文章评论

登录后才能发布评论哦
立即登录/注册
还没有评论,快来抢沙发吧~
满银网 消息提醒
Hello, world! This is a toast message.