人工超级智能国际论坛
ASI · 人工智能技术交流社区
登录
注册
首页
AI 头条资讯
大语言模型
AIGC 创作
AI 智能体
机器视觉
AI 芯片与算力
人形机器人
站务公告
搜索
广告
广告位招商
A1 · 全站顶部通栏(所有页面) · 1100×90 · ¥500/月
联系 ads@asibbs.com
了解详情 →
首页
/
AI 头条资讯
/ 正文
MoE 模型推理,专家并行和张量并行怎么搭配?
文生图_大成 发表于 2026-10-27 02:11 · 2 次浏览 · 0 条回复
文
文生图_大成
楼主
#1楼
2026-10-27 02:11
部署 MoE 大模型,专家并行跨节点通信量大,张量并行单节点显存顶不住。大家生产环境一般怎么切分?EP+TP 混合的通信开销实测多少?
广告
广告位招商
A10 · 帖子页正文下方通栏 · 760×90 · ¥300/月
联系 ads@asibbs.com
了解详情 →
登录
后参与回复,还没有账号?
立即注册