当前位置: 江南文明网 > 科技 >

各大门派围攻英伟达

条评论

各大门派围攻英伟达

当ChatGPT在彼岸快速进化的同时,国内的大模型应用也如火如荼。

“我们最近刚购买了百度文心一言的标准通用接口服务,业内采购需求非常旺盛。”一家传统企业的数字化负责人告诉21世纪经济报道记者。

他介绍道:“标准接口之外,他们还提供云端部署(公有云)和本地化部署(私有云)两种服务。其中,云端部署的基本费用是一年一个并发20万,有需求的公司一年普遍会有10到20个并发,费用都是在百万级别,本地化的私有云部署则需要1000万部署费用。”

可见,大规模地使用生成式AI依然成本高昂。背后的两个事实是,AI订单持续增加、核心的硬件成本GPU水涨船高。

一位AI领域资深从业者甚至向21世纪经济报道记者直言:“你在为你没有见过的显卡付费。现在消费者使用的几乎所有AI类服务,全部都是由算法提供的,比如短视频的视频编辑系统、推荐系统都是由算法进行驱动,这些算法的底层全部都需要调用GPU。这就意味着,只要你刷抖音,你就在直接或间接地使用GPU。”

借着新东风,GPU代表者英伟达一举站上AI的“光明顶”。而AI江湖中的门派也在疯狂迭代,“围攻”光明顶。芯片巨头们蓄势待发,英特尔已经发布了Gaudi 2、即将推出Gaudi 3、正在研发Falcon Shores;AMD发布了MI300系列,MI400正在路上;国内的华为昇腾、以及AI芯片企业们也在提供算力新选择。

互联网大厂们也在加快自研步伐,亚马逊有机器学习训练芯片Trainium和推理芯片Inferentia;谷歌研发已久,今年发布了第五代定制张量处理器(TPU)芯片TPUv5e,用于大模型训练和推理;近日传微软将在下月发布AI芯片,代号“Athena”;甚至有消息称OpenAI也正在探索AI芯片的自研。

AI芯片的战场上,继续硝烟四起。

英特尔和AMD的猛攻

今年以来,英特尔和AMD带头“主攻”,在他们的年度大会,AI是绝对的主题词。从各自布局来看,其实两家都已有丰富的产品矩阵,AI芯片主要分为GPU、FPGA以及ASIC,英特尔和AMD通过收购和研发都覆盖了三种类型的芯片,但是两者侧重点有所不同。

从英特尔的动作看,今年最受关注的莫过于Gaudi系列,Gaudi属于ASIC类别。已经发布的Gaudi 2芯片是专为训练大语言模型而构建,采用7纳米制程,有24个张量处理器核心,并且英特尔还针对中国市场推出定制版的Gaudi 2,争夺市场的野心可见一斑。

值得注意的是,Gaudi系列芯片是基于英特尔之前收购的AI公司Habana,而规划中的AI新品Falcon Shores将在Habana的架构基础上,和英特尔原有的GPU等技术进行融合,因此Falcon Shores也备受业内关注。