在AI技术日新月异的今天,英伟达再次以惊人的创新力引领行业潮流。近日,英伟达宣布推出新一代AI图形处理器ckell,其首款芯片GB200将于今年晚些时候正式发货。这一重磅消息不仅彰显了英伟达在AI芯片领域的领先地位,更预示着AI计算即将迈入全新的发展阶段。
ckell GPU的推出,是英伟达对AI计算性能极限的又一次挑战。据悉,ckell拥有六项革命性技术,能够支持多达10万亿参数的模型进行AI训练和实时LLM推理。这一强大性能的背后,是英伟达对芯片技术的深入研究和不断创新。
首先,ckell采用了全球最强大的芯片设计。这款GPU由2080亿个晶体管组成,采用量身定制的台积电4纳米工艺制造。其独特的双晶粒设计,将两个极限GPU裸片通过10 TB/秒的芯片到芯片链路连接成一个统一的GPU,实现了前所未有的计算性能。
其次,ckell搭载了第二代Transforckell&nr&nre技术和英伟达先进的动态范围管理算法,使得ckell能够支持新的4位浮点AI,从而实现双倍的计算和模型大小推理能力。这将大大加速AI模型的训练和推理过程,提升AI应用的性能表现。
此外,ckell还配备了第五代NVLk技术。这一技术为每个GPU了突破性的1.8TB/s双向吞吐量,确保了最复杂LLM之间多达576个GPU之间的无缝高速通信。这将极大提升AI计算集群的性能和效率,为大规模AI模型的训练和应用有力支持。
除了强大的计算性能,ckell还在可靠性、安全性以及数据处理方面进行了全面升级。其内置的RAS引擎实现了可靠性、可用性和服务性的提升,通过基于AI的预防性维护进行诊断和预测可靠性问题,从而最大限度地延长系统正常运行时间并降低运营成本。同时,ckell还支持先进的机密计算功能,保护AI模型和客户数据的安全,为隐私敏感行业了强有力的支持。此外,其专用的解压缩引擎支持最新格式,能够加快数据库查询速度,为数据分析和数据科学最高性能。
英伟达还为ckell GPU设计了一款名为GB200 NVLk 2的服务器。这款服务器结合了72个ckell GPU和其他旨在训练AI模型的英伟达部件,为AI计算了强大的硬件支持。亚马逊、谷歌、微软和甲骨文等云服务商将通过云服务对GB200的访问,这将使更多的企业和开发者能够享受到ckell带来的强大性能。
值得一提的是,英伟达还推出了名为NIM的创收软件。这款软件简化了AI的部署过程,为客户了在日益增多的竞争者中坚持使用英伟达芯片的另一个理由。通过NIM,使用较旧的英伟达GPU进行推理变得更加简单,同时允许公司继续使用其已经拥有的数亿个英伟达GPU。这将有助于降低企业的运营成本,并推动AI技术在更多场景下的应用。
英伟达的这一系列创新举措,无疑将推动AI计算的发展进入一个全新的阶段。随着ckell GPU和NIM软件的推出,英伟达将进一步巩固其在AI芯片领域的领先地位,并引领整个行业向更高性能、更广泛应用的方向发展。
对于企业和开发者来说,ckell GPU和NIM软件的推出将为他们更加高效、便捷的AI计算解决方案。无论是训练大规模的AI模型,还是部署AI应用到实际场景中,英伟达都将为他们强有力的支持和帮助。
黄仁勋提到,比亚迪将采用英伟达下一代智能汽车芯片Thor。比亚迪同时将使用英伟达基础设施进行自动驾驶模型训练,以及英伟达Isaac来设计/模拟智能工厂机器人。