PG娱乐电子游戏(中国)IOS|Android|通用APP下载 xAI坐拥55万张GPU加快卡, 但算力讹诈率仅11%

行家AI竞赛的早已从“谁能抢到更多GPU”悄然转向“谁能把GPU果然用起来”。有关词，坐拥约55万块英伟达GPU，骨子讹诈率仅有11%，这一“打脸”般的数字，正将埃隆·马斯克（Elon Musk）旗下的东说念主工智能公司xAI推优势口浪尖。

据外媒《The Information》取得的xAI里面备忘录闪现，xAI公司总裁迈克尔·尼科尔斯（Michael Nicolls）向团队坦承，公司当今的模子浮点运算讹诈率（MFU）约为11%。这个数字意味着，表面上能输出100份执行算力的硬件，骨子仅产出了11份。

xAI当今领有约55万颗NVIDIA GPU，其中包括H100和H200系列。尽管这些GPU比最新的Blackwell居品落伍了一个世代，但xAI部署的GPU限度之大令市集印象深入。

关于这一近况，Michael Nicolls在里面备忘录中给出了直白的评价：“低得莫名”。他已为团队设定了在将来几个月内将讹诈率拉升至50% 的标的。

“11%”这个数字，并非指89%的GPU在系数闲置，而是料想有用执行费解占硬件表面峰值算力比例的严苛想法。

从行业基准来看，坐褥级大模子执行的MFU相似落在35%至45%之间。Meta和谷歌凭借深厚的软件堆栈累积，其GPU讹诈率区分可达约43%和46%。即便以“低效”著称的GPT-3执行期间，188金宝博官网app下载MFU也在21%-26%之间。比较之下，xAI的11%不仅远低于现时主活水平，以致低于AI算力发展史上的“古早”莫名期间。

坐拥算力“金山”却难有用武之地，要津出在那里？谜底指向软件堆栈与并行政策的滞后。

xAI在业内以“系数按照英伟达推选神气部署GPU”的法度生作念法著称。法度生却跑出低分，评释问题不在法度的硬件或汇聚拓扑层面。根源在于，执行栈、并行政策和模子工程等软件优化速率，远跟不上其激进的硬件延长活动。

业界庸俗照拂的“存储墙”表象成为主要瓶颈——HBM显存读取速率远慢于策划芯片，PG娱乐电子游戏中国APP下载导致芯片无数时候空转恭候数据；汇聚拓扑中的任何一处瓶颈，在数万张卡的同步条款下，皆会被急剧放大。此外，Lambda等机构的分析指出，显存压力、过度的激活重策划和张量并行带来的跨GPU通讯支出等，皆是株连MFU的系统性身分。

xAI的算力基础智商成立速率自身即是一个“据说”：其孟菲斯Colossus超算集群从动工到插足运营仅用了122天，从10万张GPU扩展到20万张仅用了92天。黄仁勋曾评价此类工程“相似需要四年”。

△xAI孟菲斯Colossus超算集群

有关词，惊东说念主的速率似乎也让xAI“欠下”了时候债。延长越快，复旧大限度并行执行的软件系统复杂度就越大。当企业试图将GPU限度从数千张推向数十万张时，通讯、挽救、容错和并行政策的挑战会呈指数级增长。xAI的11%的算力讹诈率，恰是这一矛盾的聚首体现。

把问题系数痛恨于xAI一家也并不自制。《The Information》的报说念征引一位匿名沟通员的话称：“跑过40%对xAI的大多数竞争敌手来说也很难”。这标明，超大限度集群下的低效问题，是覆盖扫数AI行业的暗影。

报说念还揭示了一个行业里面的误解表象：由于挂牵GPU被调走或承受压力，一些沟通员以致通过反复重跑执行来东说念主为“好意思化”自家MFU数据。囤而无须的算力花消，成为行业心照不宣的逃匿。

面临恶果困局，xAI正多措并举。一方面，公司缠绵通过基础智商和软件栈优化来照料讹诈率问题。另一方面，据媒体报说念，xAI已开动将部分闲置算力对出门租，AI编程创业公司Cursor已缠绵使用其“数万张GPU”来执行新模子。

AI算力之争已过“装备竞赛”阶段PG娱乐电子游戏(中国)IOS|Android|通用APP下载，精良进入“恶果竞赛”的深水区。11%的低讹诈率如并吞面镜子，照出AI行业下半场的中枢命题：如何将“买得到”的硬件，振荡为果然“用得好”的竞争壁垒。