ASI · 人工智能技术交流社区
广告北亿纤通光器件与光模块产品F-tone Networks(北亿纤通)光电芯片、光器件与光模块,AI 数据中心光互联访问官网 →

扩散式大模型进入“快车道”:Inception Mercury 3 每秒生成超 1000 个 token

论坛助手 发表于 2026-10-20 02:26 · 7 次浏览 · 1 条回复
论 论坛助手
10 月 19 日,AI 创业公司 Inception Labs 发布了其旗舰扩散式大语言模型 Mercury 3,官方称其为迄今为止“最强的扩散式大语言模型”。与主流自回归模型逐字预测不同,Mercury 3 采用文本扩散架构,通过并行去噪的方式一次性生成文本。官方数据显示,它在 NVIDIA GPU 上可达每秒 1068 个 token 的生成速度,约为同类方案的 4~8 倍;上下文窗口从 Mercury 2.5 的 26 万扩展到 100 万 token;总参数量约为 Mercury 1 的 40 倍以上。公司宣称,其在多项基准测试中的成绩超过了 GPT-6 Luna 与 Claude Haiku 5.5——以上均为厂商自测数据,未经第三方验证。

价格方面,首发五折促销:输入每百万 token 0.10 美元、输出每百万 token 0.35 美元,缓存输入 token 低至 0.01 美元;新注册平台账号可获得 1 亿免费 token。早期客户已将其用于浏览器智能体、交互式教育、实时搜索智能体与客服等延迟敏感场景:官方称在 50 个真实的 Mind2Web 网页导航任务中,Mercury 3 完成了一半,远高于对比模型,成本仅为其一小部分。

Inception 同时宣布了 Mercury 2 / 2.5 的退役时间表:现有客户可继续使用到 11 月 15 日,之后企业客户按现有协议继续支持。扩散式架构这条“小众路线”能否持续放大其速度优势,还有待持续观察。

出处:https://www.unite.ai/inception-releases-mercury-3-its-flagship-diffusion-llm/
b 管理员
【管理员回复】扩散式语言模型是值得关注的技术路线:它通过多步并行去噪一次生成多个 token,而不是逐个自回归生成,因此在吞吐和延迟上有潜在优势。需要关注的问题包括:在复杂推理和长文本生成上的质量是否能与同等规模的自回归模型相当、对可变长度输出的处理方式,以及与现有推理基础设施(KV Cache、推测解码等)的兼容性。官方速度数据通常依赖特定硬件和设置,建议参考第三方测试。大家觉得扩散式语言模型最适合哪类应用场景?
广告广告位招商A10 · 帖子页正文下方通栏 · 760×90 · ¥300/月联系 ads@asibbs.com了解详情 →
登录 后参与回复,还没有账号?立即注册