大数跨境
0
0

AI新风云!英伟达Blackwell横空出世!10万亿参数AI模型轻松应对!

AI新风云!英伟达Blackwell横空出世!10万亿参数AI模型轻松应对! 慧星云
2024-03-19
1
导读:AI行业再变天!英伟达发布 Blackwell !AI行业又变天了!就在3月19日的凌晨,英伟达公司创始人黄

AI行业再变天!英伟达发布 Blackwell !



AI行业又变天了!就在3月19日的凌晨,英伟达公司创始人黄仁勋在美国圣何塞发表GTC主题演讲。这次演讲所展示出的当下最强GPU——Blackwell再次打破了AI界短暂的平静。


据介绍,Blackwell GPU以数学家David Harold Blackwell的名字命名,目前推出B200和GB200两个系列的芯片。Blackwell GPU中包含2080亿个晶体管,可以支持多达10万亿个参数的AI模型,相比于H100/H200,它们的晶体管只有800亿个。


在商业化层面,英伟达方面已经有了初步计划。黄仁勋表示,英伟达未来计划用Blackwell向世界各地的人工智能公司进军,与世界各地的所有OEM、区域云、国家主权AI、电信公司签约。

目前黄仁勋已经宣布谷歌、微软、亚马逊等公司与Blackwell平台进行合作。







blackwell 参数情况







如之前所说,B200拥有多达2080亿个晶体管,采用量身定做的台积电4纳米工艺制造,两个reticle极限GPU裸片将10TB/S的芯片到芯片链路连接。引擎方面结合Blackwell Tensor Core技术和TensorRT-LLM和NeMo Megatron框架中的英伟达先进动态范围管理算法,通过新的四位浮点AI支持双倍计算和模型推理能力。Blackwell为了提高万亿参数和混合专家AI模型性能,采用第五代NVLink,它能为每个GPU提供1.8TB/S的双向吞吐量(H100仅0.9TB/S),能让最复杂的LLM之间576个GPU的无缝高速通信。它的GPU还包含应该专用引擎,不仅如此它的架构还增加了芯片级功能,利用基于AI的预防性维护进行诊断和预测可靠性问题。这能在保证系统高效运行的同时提高大规模部署的弹性,让它能够运行的更久且成本更低







多个行业同时发展






在本次发布会上英伟达还推出了一款用于机器人领域、名为GROOT的通用基础大模型。此外,英伟达还推出了适用于机器人的全新计算机Thor,英伟达对于相关的性能、功耗和尺寸进行了具体的优化。


在医疗领域,英伟达此次推出了 25 个新的微服务(NIM),这些微服务适用于医疗场景,帮助全球的医疗保健公司通过生成式 AI 提高效率。这些公司能够借助这些微服务,筛选数以万亿计的药物化合物,收集更多的患者数据来助力早期疾病检测,或者实施更智能的数字助理等功能。


而在汽车领域,比亚迪和英伟达的合作范围从汽车扩展到云。比亚迪准备使用英伟达的AI基础设施进行基于云的AI开发和培训技术。其他平台如广汽、小鹏汽车在内等厂商也表明了将使用「DRIVE Thor」车载计算平台。


感到意外的是他们还将数字建模技术用到苹果空间计算设备Vision Pro当中。在英伟达播放的一条视频短片中,英伟达着重展示了一个汽车模型在苹果设备上的应用。



随着这个时代的进步,AI已经开始成为我们生活中离不开的一部分,而强大的AI则需要强大的算力去支撑,如果你对算力感兴趣或者有需求,可以点击下方阅读原文进入厚德云官方


厚德云是一款专业的AI算力云平台,为用户提供稳定、可靠、易用、省钱的GPU算力解决方案。海量GPU算力资源租用,就在厚德云


END


【声明】内容源于网络
0
0
慧星云
慧星云是专业AI生产力平台,汇聚AI算力、AI生产力工具与魔多AI创作社区,赋能AI开发与创作全流程。成立以来,相继获得中国新锐技术先锋企业、最佳AI算力平台、最佳AI创作者社区、杭州AI卧龙图等荣誉,服务众多政企、科研、高校及个人用户。
内容 17
粉丝 0
慧星云 慧星云是专业AI生产力平台,汇聚AI算力、AI生产力工具与魔多AI创作社区,赋能AI开发与创作全流程。成立以来,相继获得中国新锐技术先锋企业、最佳AI算力平台、最佳AI创作者社区、杭州AI卧龙图等荣誉,服务众多政企、科研、高校及个人用户。
总阅读7
粉丝0
内容17