关闭广告

百度智能云公布两款自研AI芯片,昆仑芯比外界想象得更有野心

钛媒体APP340人阅读

李彦宏有些无奈。

“过去,AI产业结构像一个正金字塔,最底层的芯片拿到了绝大部分的价值;芯片之上的模型,赚到的钱可能不到芯片的1/10;模型之上的AI应用,又小了一个数量级。”在百度世界大会上,百度创始人李彦宏说道,“这个产业结构是非常不健康的,是不可持续的,因为芯片并不直接产生价值,应用才能够产生价值。”

但更无奈的是,在当前的宏观和产业环境下,要打破这种倒挂结构,要赚模型层或者应用层十倍以及百倍的价值,最好的办法就是把芯片层重新掌握在自己手里。

百度不得不自研芯片。在英伟达的“芯片铁幕”之下,这不是百度一家公司面临的问题,无论是海外厂商如亚马逊、微软、谷歌以及OpenAI,还是国内企业如阿里、华为、腾讯,都不得不启动自研芯片战略。

百度的昆仑芯团队成立于2011年,很早就参与到了AI计算产业的新周期,在大模型时代有了极大的加速,从早年的AlexNet以及更早的语音识别模型,开始用FPGA做计算加速,再到后来的大型推荐系统流行,昆仑芯开始自己做芯片。

2021年,昆仑芯从百度集团拆分,也赶上了大模型萌芽阶段,着手定义面向大模型的新一代芯片,譬如P800。

本次大会上,百度智能云事业群总裁沈抖公布了两款自研AI芯片,昆仑芯M100和M300,以及天池256和512超节点的相关规划。


大模型之后,芯片更简单还是更难?

以前芯片厂商需要面对不同场景、不同数据、不同算法以及不同应用,很难形成规模和系统的迭代。

Transformer的出现统一了模型架构,把输入输出都统一成Token,统一的框架也带来了计算架构的统一,芯片厂商在做芯片时,可以有非常明确的目标,实现极致的性能,并且可以充分利用整个产业链的供给能力,实现更低让成本做的非常低,更好的计算芯片直接推动应用发展,应用繁荣又能够给计算芯片带来更大的规模,产业由此进入正循环。

新技术带来产业的新变化,从技术可行到产业可行,某种程度而言,做一个为当前大模型定向优化的芯片更容易了。

但是,新的挑战在于技术没有边界,应用也没有边界,所有做算力的团队都无法百分百确定,未来大模型乃至AI产业会朝着什么方向发展,典型如Scaling Law,模型参数从百亿、千亿到万亿级模型,大幅推高算力、能源、基础设施成本,应用的生长也几乎不可预测,

这也意味着,面向未来而做的芯片变得更难了。虽然无法精准预测未来,至少可以确定大方向,算力最终绕不开两个根本问题:效率问题与规模问题。

随着大模型应用全面渗透,人均每天的 Token 消耗动辄数万甚至百万级,几年前一张 GPU 每秒只能处理十几个 Token,现在行业都在追求从算力卡中榨出更多的tokens,直接关乎最企业终的竞争力。

例如降低计算精度:从 BF16 到 FP8、FP4,通过牺牲冗余精度换取数倍算力提升,每一次精度下降,对应算力倍数提升;再如,模型训练方式在变,芯片架构也必须跟着变,不断针对模型架构上优化整个芯片的PPA。

如今做芯片,已经不能只做芯片,系统才是把算力真正释放出来的关键环节,超节点就是一个实证。超节点不是新概念,但在大模型时代终于找到了“刚需场景”。服务器内联数十甚至上百张卡,再到未来的千节点互联,相比单机单卡,这类系统能带来量级上的成本下降。

效率问题人人都能理解,而规模问题只有足够大的规模才能真正感受到。从千卡到几万卡,再到未来可能出现的百万卡集群,系统会在某些阈值上发生“质变”,成百上千的隐性问题会同时涌现。

例如稳定性急剧下降,在千卡规模下,98%的稳定性还能接受;但到了万卡,这个数字会指数式下跌,任何节点的波动都会被放大成系统级故障。训练的精度也难以保障,大量微小差异会在长时间训练后,可能累积成最终精度的大幅偏差,而这样的验证往往需要 2~3 个月,是极其昂贵的学习成本。

当 AI 应用以指数方式增长,算力不再是简单的“堆卡”,而是站上了一条新的工程学和科学探索路线。

昆仑芯的路线

过去几年,昆仑芯已经量产了三代,第一代更多部署在百度内部的数据中心,第二代开始面向市场全面开放,如今已有大量企业用户在大规模使用,第三代则赶上了大模型时代的浪潮,无论推理还是训练,都在互联网、运营商、金融、能源等行业得到了广泛落地。

据悉,目前百度内部绝大多数的大模型推理任务,都由昆仑芯P800支持,百度还基于P800的5000卡单一集群,高性价比地训练出了领先的多模态模型,目前该训练集群已经扩展到万卡以上,可用于训练更大规模的模型。

在本次大会上,M100 与 M300 系列正式亮相。M100针对大规模推理场景做了优化,同时也是一颗全能型芯片,MoE模型的推理性能大幅提升,将在2026年初正式上市。

M300 定位高端,兼具强推理与强训练能力,针对超大规模的多模态模型的训练和推理任务做了深入优化,将于2027年初正式上市。

昆仑芯的软件栈高度兼容主流 CUDA 生态,从编程语法到深度学习框架,都能无缝适配。据透露,昆仑芯的客户不局限于互联网产业,从电信运营商的核心系统,再到能源、电力、金融等行业,都已经有落地项目。

不止是在百度内部广泛使用,昆仑芯也在互联网、金融、能源、制造、交通和教育等多个行业落地,包括招商银行、南方电网、中国钢研、国家管网、吉利汽车以及国内头部互联网大厂和运营商等上百家客户,交付规模从几十卡到数万卡。

沈抖现场也表示, 单芯片的强大是基础条件,现在的大模型训练和推理都不是一颗芯片能完成的,而是多颗芯片协同工作,尤其在MoE模型上,卡与卡之间的通信量急剧增加,需要把几十张、上百张卡组成一个超节点,让它们像“一颗超级芯片”一样紧密连接,大幅提升卡间通信效率。

“超节点”方案非常考验AI infra厂商在芯片、内存、通信、供电、冷却上的全栈协同能力。

2025年4月,百度基于昆仑芯P800上市了32卡和64卡的超节点,在现有超节点的基础上,天池256将256张P800放到同一个节点内,相比4月发布的超节点,单实例的卡间互联总带宽提升4倍,性能提升50%以上。

对比同等卡数的P800集群,天池256超节点在主流大模型的推理任务上,单卡吞吐提升超过3.5倍。

天池512同样基于P800,它在天池256基础上,卡数翻倍,卡间互联总带宽也再翻一倍,单个天池512超节点,就能完成万亿参数模型的训练,这两款超节点产品,将分别在明年上半年和下半年正式上市。

另外,百度也在基于新发布的昆仑芯M系列研发千卡级别的超节点,从27年下半年开始,将陆续推出相应的千卡、四千卡超节点。“未来5年,昆仑芯每年都会推出新产品”,沈抖表示。 (本文作者 | 张帅,编辑 | 盖虹达)

更多对全球市场、跨国公司和中国经济的深度分析与独家洞察,欢迎访问 Barron's巴伦中文网官方网站

版权与免责声明:本文内容转载自其他媒体,目的在于传递更多信息,不代表本网观点或立场,不承担此类作品侵权行为的自己责任及连带责任。
猜你喜欢
精彩推荐

日本首相选举局势突变 高市早苗的竞争对手出现了

极目新闻 浏览 4117

“你眼中的理想城市”大调研

刺猬公社 浏览 10387

节后戒断太难,屏障修复实验室自有招

时尚COSMO 浏览 890

小个子不要为显高发愁 一条牛仔裤轻松搞定

男士穿衣搭配杂志 浏览 14694

AI,人类历史上最后一次科技革命?你准备好“上桌”了吗

北京商报 浏览 784

29.2万辆!难怪比亚迪9月跟“疯了”一样,原来是给这几天憋大招

小李车评李建红 浏览 880

赏叶季人生照片拍摄指南.PDF

时尚COSMO 浏览 473

3-1!马龙逆天大翻盘,4-9落后12-10逆转,豪取开门红握拳怒吼

体坛扒客 浏览 11222

在南海坠毁的美军机比F-35还贵 单价1亿美元

参考消息 浏览 550

德国总理称不希望供乌武器用于打击俄本土

环球网资讯 浏览 14381

因长期欺凌员工 美富豪CEO遭多名员工合谋绑架杀害

潇湘晨报 浏览 2222

梁洛施携家人聚餐,14岁大儿子正脸曝光像李泽楷

青芳草 浏览 14120

孙怡自曝想上《再见爱人3》 直白发言引复合猜测

盖饭娱乐官方号 浏览 15295

盘点史上无冠但进年终男选手,穆塞蒂并不孤单!

网球之家 浏览 417

《人民的名义》:一个被优秀反噬的孩子,才是人性最大的真相!

娱乐白名单 浏览 11370

李昀锐孟子义被曝恋情,却双双否认

霁月文娱阁 浏览 836

小鹏汽车11月交付新车36,728台 1-11月累计交付391,937台

网易汽车 浏览 210

曝华晨宇张碧晨不来往,每月打5位数抚养费,被嘲冷血

天天娱乐基地 浏览 16979

福特放缓电车生产,警告美国接受度“慢于预期”

华尔街见闻官方 浏览 12830

林永健批顶流进组带编剧乱改戏,网友总结合作演员,成毅被质疑

萌神木木 浏览 804

进苏超决赛,泰州主帅:队伍分工明确,三个臭皮匠顶个诸葛亮

懂球帝 浏览 655
本站所有信息收集于互联网,如本站收集信息侵权,请联系我们及时删除
Copyright © 2020-2022,版权所有 qukanredian.com
沪ICP备20002587号-1