AMD Instinct MI300X 加速器已开始交付
发布时间:2024-01-23 14:21:00 阅读量:668
AMD最近开始量产出货其最新一代人工智能和高性能计算(HPC)加速器Instinct MI300X,并率先交付合作伙伴LaminiAI使用。LaminiAI将使用MI300X加速器执行大型语言模型(LLM)的计算工作,以满足企业用户的需求。
LaminaAI作为AMD的长期合作伙伴,能够抢先体验到全新MI300X加速器的强大优势,实属正常。该公司首席执行官Sharon Zhou在社交媒体进行了公告,同时透露,已经接收到配置8个Instinct MI300X加速器的设备,其中包括首批正在生产的AMD MI300X,以及即将推出的LaminaAI下一代LLM集群。
在AMD的MI300系列中,Instinct MI300A为数据中心APU,结合GPU核心、Zen 4 CPU核心、128GB HBM3,共1460亿个电晶体,利用3D封装整合5nm与6nm制程生产的芯粒(chiplet)。
Instinct MI300X则为GPU,其基于AMD CDNA 3架构,共有1530亿个电晶体,整合5nm与6nm制程生产的芯粒,利用3D封装技术,配备192GB HBM3。相较前一代Instinct MI250X,MI300X强调为AI与HPC工作负载带来近40%的运算单元提升,高达1.5倍的记忆体容量提升,以及高达1.7倍的峰值理论记忆体频宽提升。
根据AMD的测试,与英伟达H100 HGX平台 (BF16/FP16) 相比,MI300X平台的内存容量增加2.4倍,计算能力提高1.3倍,同时保持了相当的双向和单节点环带宽总和。
目前AMD Instinct MI300系列客户包括Meta、谷歌、微软等巨头,而LaminiAI则是首家公开使用MI300X的公司。这对AMD来说是一个重要里程碑,这也是外界第一次了解到MI300X的批量出货情况。
标签: AMD
郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,感谢您的关注!