开云集团「中国」Kaiyun·官方网站-开云集团「中国」Kaiyun·官方网站无论搭配些许颗GPU-开云集团「中国」Kaiyun·官方网站
你的位置:开云集团「中国」Kaiyun·官方网站 > 新闻 > 开云集团「中国」Kaiyun·官方网站无论搭配些许颗GPU-开云集团「中国」Kaiyun·官方网站
开云集团「中国」Kaiyun·官方网站无论搭配些许颗GPU-开云集团「中国」Kaiyun·官方网站
发布日期:2024-05-26 06:15    点击次数:150

国内云厂商“价钱战”打了一轮又一轮,但AI算力并莫得降价。

跟着AI的发展,算力需求乃至用电需求的高涨昭彰。光环新网是国内纷乱的数据中心和云臆度干事提供商,光环新网副总裁李伟对第一财经记者预测,改日十年中国的AI算力起码百倍增长。

传统算力降价带来的压力,云臆度厂商大概能从AI算力得到弥补。前提是,它们能买到满盈的GPU。

AI算力免受价钱战影响

“中枢居品价钱全线下调20%”“在竞争敌手的基础上再低廉10%”,从2023年4月阿里云秘书“史上最大范围降价”于今,云厂商喊话继续,阿里云、腾讯云、转移云、天翼云、京东云等进行了多轮降价。

看起来,云臆度廉价的时期来了。但“算力普惠”的风并莫得吹到AI范围。

一位业内东说念主士对记者示意,这两年云厂商喊的降价,其实齐跟AI算力无关,好多是CPU部分,而GPU的部分仍在涨。由于算力供需垂死,租借价钱成倍高涨才是AI算力在往时一年的常态。

CPU主要用于处理通用臆度,如操作系统驱动、利用才能引申和管制、数据处理等;GPU则相对专注于并行臆度和图形处理任务,主要用于科学臆度等需要大范围并行臆度的责任负载。

“在AI干事器,无论搭配些许颗GPU,在底层齐需要CPU。它们在不同的责任负载和利用场景中见识各自的上风,互相补充。”英特尔中国软件时期联就奇迹部总司理唐炯对第一财经示意,“现阶段的智算中心里,GPU或AI加快器的数目比例会比本来有所提高。这亦然因为客户对大齐的算力有需求,是以需要加上一些GPU或是其他的AI加快器来驱动。”

AI算力加价已不崭新。

2023年11月,中贝通讯就曾在公告中泄露,其向联系客户提供AI算力时期干事的单价高涨到18万元/P/年,与其9月份清楚的12万元/p/年的价钱比较,两个月内高涨了50%。

“当今我合计高端算力的需求还短长常繁荣的,但尚未达到供不应求导致价钱飙升的进度。从咱们自己来看,算力闲置的可能性不大。”李伟对记者示意。

受策略影响,顶端芯片供应不及、一“片”难求。这导致了国内AI算力本钱的高涨。

据IDC的预测,2022-2027年时期,我国智能算力范围年复合增长率将达33.9%。但与此同期,GPU的缺口难以管制。英伟达高端芯片受限的情况下,国内市集的GPU缺口异常严峻。

AI算力的能耗更高,这也鼓动云臆度厂商本钱升高。

优刻得臆度居品中心研发总监王晓慧告诉第一财经记者,与传统数据中心比较,智算中心驱动时的能耗是其五倍以上。从单机驱动功率来看,豪放干事器的驱动功率是七八百瓦,而GPU跑三四千瓦短万古常见的。

除此除外,李伟示意,智算中心里AI干事器的高功率也意味着冷却散热压力的加大,AI干事器与传统干事器的能耗相反进一步变大。同期,运维AI干事器也对职工的训戒和才能淡薄了更高的条款,智算中心的东说念主力本钱也会随之增多。

“就咱们当今的训戒来看,因为AI干事器的负载压力比传统干事器大好多,相应AI干事器故障率也比传统干事器高好多。”李伟补充说念,为了幸免大模子磨练中由AI干事器宕机带来的亏蚀,在大模子磨练的经由中要在中间作念好多断点,玄虚和洽软件、硬件、性能需乞降干事器的踏实性。

“有好多主张镌汰(故障率),关联词再镌汰它的故障率也比传统干事器高。”李伟提到,AI干事器的负载压力是传统干事器弗成比的,当大模子磨练跑起来时,机房的GPU齐是跑满的。

算力向头部企业集中

云臆度厂商的价钱战活水游龙,它们就不得不寻找更优的本钱决策。

“从公有云角度来看,纵不雅业界齐在寻求降本增效的款式,而这对咱们来说是一个新的发展标的。”唐炯示意,芯片企业除了将传统芯片的蹊径图往前鼓动,打造具备更好性能功耗比的居品除外,先进的液冷时期、数据中心管制时期,齐可匡助大型科技企业镌汰本钱。

传统算力降价带来的压力,云臆度厂商大概能从AI算力得到弥补。

IDC展望,到2030年东说念主工智能驱动的环球算力将增长500倍, 2027年中国智能算力范围将达 1117.4 EFLOPS。

“从存量来看,传统干事器如故占大比例的。但在昨年,咱们将北京亦庄地区自稀有据中心转型为智算中心,以数据中心要领为基础,部署了高性能算力硬件,搭建了算力颐养平台,提供训推一体智算干事。”李伟泄露,改日两三年,光环新网将抓续增多算力干事器范围。

看成AI算力的最大“买主”,大模子企业正在发生一些变化。“能看到昨年一些租了咱们A800干事器的大模子企业,有的在作念抓续的磨练迭代,有的在作念短周期的业务尝试,贬抑地会有新客户进来这个市集。”王晓慧泄露。

在昨年,大模子企业主要如故在作念模子的磨练,但推理需求本年、来岁可能大幅教会。“从恒久来看,模子最终要盈利,如故会鼓动推理业务。”李伟预测,改日大模子推理的量可能会是磨练量5到10倍的范围,以致更大。

大模子正在进入逐步淘汰的经由,据记者了解,一些大模子企业以致退租了A800干事器。AI算力的需求展望将向大模子头部企业集中。

“咱们跟好多通用大模子企业换取,渊博合计要撑抓一支比较有竞争力的大模子团队,除了东说念主力插足,还需要琢磨自建或租用算力的本钱。这样的团队一年至少需要十个亿、以致十五个亿的资金开销。在短期看不到太多收入的情况下,并不是每家齐能融到这样多钱,终末只须头部几家能抓续烧钱,保抓在行业一线。”李伟示意,AI算力市集如故会增长,但将主要来自头部大模子公司。

从恒久来看,中国算力的发展不单是要靠外洋,主要如故要靠国产算力的逐步进修、芯片、干事器范围的成长。

举报 第一财经告白联接,请点击这里此本色为第一财经原创,著述权归第一财经总计。未经第一财经籍面授权,不得以任何款式加以使用,包括转载、摘编、复制或建造镜像。第一财经保留清雅侵权者法律包袱的权益。 如需得回授权请策划第一财经版权部:021-22002972或021-22002335;banquan@yicai.com。 文章作家

陈杨园

联系阅读 抓续近87分钟1957个客户报障 腾讯云回答事故原因

云平台在追求销量与市集范围的同期,客户的基础运维与数据安全责任,不应因“降本增效”而被忽视。

04-14 10:33 99元!创业者的第一朵“云”,藏在老罗直播间里

继1个月前大降价后,阿里云再出招

04-01 16:07 云臆度价钱战“打到”罗永浩直播间 阿里云存储干事居品再降价

尽管云厂商的廉价喊得异常响亮,AI算力的紧缺照旧问题。

04-01 07:58 大模子带来的云契机

中国云臆度发展正在迎来全新的发展机遇,也在走向更多的挑战。

03-03 18:42 宗馥莉接棒娃哈哈,苹果烧毁造车打算丨一周热门回归

其他热门还有:香港购房“辣招税”全面破除开云集团「中国」Kaiyun·官方网站。

03-02 10:34 一财最热 点击关闭

相关资讯