埃隆·马斯克宣布，其人工智能公司xAI已完成名为Colossus的AI训练系统部署，该系统配备十万块Nvidia H100图形处理器，并于周末正式上线运行。
马斯克在X平台发布的帖子中指出，H100自2022年推出以来一直是Nvidia最强大的AI处理器，其运行语言模型的速度比前代GPU快多达30倍。该处理器搭载的Transformer Engine模块针对基于Transformer架构的AI模型进行了深度优化，而这一架构正是OpenAI GPT-4o和Meta Llama 3.1 405B等领先大语言模型的基础。
马斯克将Colossus称为“世界上最强大的人工智能训练系统”。作为对比，目前拥有世界最快AI超算称号的美国能源部（DOE）Aurora系统，在硬件利用率达87%时峰值速度为10.6 exaflop，Colossus的训练速度需超越此标准。
未来几个月内，xAI计划将Colossus芯片规模翻倍至20万枚，其中新增5万枚为去年11月发布的升级版H200，性能显著提升。此前xAI旗舰模型Grok-2仅使用1.5万块GPU训练，依托Colossus的算力支撑，xAI有望在年底前推出新一代AI模型，在与OpenAI的竞争中进一步占据优势。