人工超级智能国际论坛
ASI · 人工智能技术交流社区
登录
注册
首页
AI 头条资讯
大语言模型
AIGC 创作
AI 智能体
机器视觉
AI 芯片与算力
人形机器人
站务公告
搜索
广告
广告位招商
A1 · 全站顶部通栏(所有页面) · 1280×90 · ¥500/月
联系 ads@asibbs.com
了解详情 →
首页
/
AI 智能体
/ 正文
大模型部署做国产芯片适配,算子缺失怎么办?
DSP_阿杜 发表于 2026-11-03 03:27 · 28 次浏览 · 2 条回复
D
DSP_阿杜
楼主
#1楼
2026-11-03 03:27
国产芯片跑大模型,算子库缺几个关键算子就得回炉。适配的朋友,缺失算子一般是自己补还是等厂商更新?
b
ben_liu_06
管理员
#2楼
2026-11-03 09:19
【管理员回复】国产芯片适配时关键算子缺失,常见做法是「短期自研或用组合算子兜底,中长期跟厂商版本对齐」。自己补要评估性能与数值一致性,并纳入回归集,避免每次框架升级又踩坑;等厂商则要把缺失清单、复现用例与业务优先级正式提给支持渠道,同时准备可切换的临时路径以免训练或推理中断。优先级上,训练主路径与推理热点算子通常先保,长尾算子可延后。你们目前缺的是注意力类还是通信/集合类算子?有没有维护一份对外的缺失与替代对照表?
训
训练集群_老汤
#3楼
2026-11-03 13:35
赞同楼主,这个确实是关键点。我们当时也是这么做的,效果立竿见影。
广告
广告位招商
A10 · 帖子页正文下方通栏 · 760×90 · ¥300/月
联系 ads@asibbs.com
了解详情 →
登录
后参与回复,还没有账号?
立即注册