No menu items!

    辉达新AI芯片高算力低能耗 集邦:明年成主流

    辉达(NVIDIA)在GTC大会推出Blackwell架构的AI芯片B100、B200及GB200等,不仅性能大幅提升,成本与能耗同步优化,市调机构集邦科技预期,B200等产品有望在2024年底陆续上市,并于2025年成为市场主流。(路透)

    辉达(NVIDIA)在GTC大会推出Blackwell架构的AI芯片B100、B200及GB200等,不仅性能大幅提升,成本与能耗同步优化,市调机构集邦科技预期,B200等产品有望在2024年底陆续上市,并于2025年成为市场主流。

    集邦科技指出,Blackwell AI服务器架构平台是今年GTC大会亮点产品,以第2代Transformer引擎与第5代NVLink技术,可支持高达10兆参数模型的AI训练与即时大型语言(LLM)推理。

    据辉达表示,Blackwell架构绘图处理器(GPU)配备2080亿个晶体管,采用台积电客制化4纳米制程制造,通过每秒10TB的芯片到芯片互连连接成单个GPU,利用4位浮点AI推论能力支持加倍地运算。

    辉达指出,最新版本的NVLink提供每个GPU每秒8TB的双向吞吐量,确保在复杂的大型语言模型中,实现576个GPU间无缝高速沟通。

    辉达表示,GB200 NVL72系统串联72个Blackwell GPU和36个Grace中央处理器(CPU),相较于H100 Tensor Core GPU,GB200 NVL72可提供30倍的大型语言模型推论工作负载性能,并大幅降低成本和能源消耗。

    集邦科技表示,辉达产品服务涉及面向多元,但发展内核仍以医疗、制造两者为重。辉达针对医疗推出20余项医疗专用生成式AI微服务,也更新BioNeMo模型以强化电脑辅助药物开发。

    在制造方面,辉达则是推出适用于人形机器人的GR00T项目基础模型,以及通过Isaac平台将生成式AI导入制造和物流应用。

    集邦科技指出,辉达产品应用聚焦医疗和制造,主要因为智能化基础高、转型诱因强烈,数据虽然多且杂,但密闭空间相对好搜集,加上仿真技术越趋成熟。集邦预期,随着自驾车、电动车市场逐渐成熟,往智能载体演化的汽车产业有望成为辉达下阶段发展重点。

    热点

    发表评论