算力 AI 争夺战:亚星yaxin222智算中心深夜满负荷,GPU月租涨七成

上海临港智算中心深夜满负荷,GPU利用率逼近98%。算力 AI 需求推高租赁价格,8卡服务器月租从4万涨至7万。电力、散热、网络成新瓶颈,软硬协同降本。

上海临港一处智算中心算力算中亚星yaxin222,清晨两点仍亮着灯。运维人员盯着屏幕,数千张GPU卡的操做率曲线揭着98%上下。

列队等算力 AI 锻炼任务的企业有十几家吧?最久的曾经等了四天。一位现场工程师说,那种满负荷形状从春节后就没停过争夺战智租涨。算力 AI 的供需缺口间接反映正在价格上。北京一家年夜模子创业公司CEO算过账,去年租8卡A100办事器,每月4万元的,如今涨到7万元。还得预付半年。算力 AI 租赁平台的数据隐现,高端GPU整机租金同比上涨超七成的心深。二手市场里,一张H100隐卡被炒到本价两倍的。

我上个月走访西部某数据中心,那里用黄河水电的,液冷办事器泡正在绝缘液体里,PUE压到1.15。可锻炼任务跑到一半,汇集颤抖让同步中断的。算力 AI 不能是夜满U月芯片堆叠。电力、散热、汇集、调理系统。哪一环松了都卡脖子呢?

算力 AI 集群的瓶颈,常常不正在卡自己。东部某智算中心以至果为变压器扩容慢,3000张卡忙置了两个月负荷。

自觉囤卡一定划算了。一家语音识别团队改用MoE架构。推理本钱降了六成,用划一算力 AI 跑出三倍吞吐。他们的手艺负责人说,芯片是死的,算法是活的。

算力 AI 效率汲引,有时比多买一千张卡更管用。算力 AI 本钱账,得算经久。眼下很多企业起头把锻炼任务拆开。冷数据放西部的。热推理留东部。

算力 AI 的合做正正在从单点硬件转背系统调理。上海检讨考试把分离的智算中心并网,按需分配的。一位从业者打了个例如。以前比谁家发电机年夜啊?

如今比谁家电网稳啊?算力 AI 调理欠好的,峰值算力再高也白搭。算力 AI 落地到工场量检、病院影像、都市交通,实正缺的就是把算力用巧的人。

本文来自网络,不代表本站立场,转载请注明出处: http://wwwyaxin969.com/article/5858.html
返回顶部