>首页> IT >

高带宽内存成新宠 三大巨头加码“押注”

时间:2023-07-30 23:22:17       来源:腾讯网

本报记者 秦枭 北京报道

ChatGPT在全球的关注度持续火热,再次将AI产业推到聚光灯下,而在这一领域一直盘踞着两大巨头,硬件层面英伟达独领风骚,而OpenAI凭借GPT模型在软件层面独占鳌头。但随着AI产业迎来“iPhone时刻”,为满足海量数据存储以及日益增长的繁重计算需求,半导体存储器领域也迎来新的变革,高带宽、低功耗内存HBM“粉墨登场”,SK海力士、三星等存储厂商也收获颇丰。

《中国经营报》记者从多位业内人士处了解到,DRAM(动态随机存取存储器)分为三个类型:标准DDR、移动DDR以及图形DDR,HBM属于最后一种,即图形DDR。作为一种新兴的标准DRAM解决方案。HBM的优点显而易见,它可以显著提升数据传输速度。其在数据中心中的应用已经很成熟,并且由于人工智能、机器学习的需求而使用量不断增长,但缺点是高昂的成本。


(资料图片仅供参考)

各方抢购

在当前DRAM的整体颓势之中,HBM实现了逆市增长。

HBM全称为High Band width Memory,即高带宽内存,是一种新兴的标准DRAM解决方案。高带宽内存方案最初是由三星、AMD和SK海力士提出来的。HBM技术可实现高于256GBps的突破性带宽,同时降低功耗。它具有基于TSV和芯片堆叠技术的堆叠DRAM架构,核心DRAM芯片位于基础逻辑芯片之上。第一个HBM内存芯片由SK海力士于2013年生产,第一个使用HBM的产品是2015年的AMD Fiji GPU。

去年年底以来,ChatGPT 引爆AI概念,AI 相关需求呈快速增长态势。而 AI 的快速发展,对数据量和算力的需求也有大幅拉动,拉动相关半导体需求的持续提升。

民生证券指出,处理器性能不断提升,“内存墙”成为计算机系统的瓶颈,而HBM通过3D堆栈可提供更高的内存带宽和更低的能耗,适用于高存储带宽需求的应用场合,如HPC、网络交换设备等。

半导体分析师王志伟对记者表示,“内存墙”指的是内存性能严重限制CPU性能发挥的现象。存储器与处理器性能差异正随时间发展逐渐扩大,当存储器访问速度跟不上处理器数据处理速度时,存储与运算之间便筑起了一道“内存墙”。而随着人工智能、高性能计算等应用市场兴起,数据量指数级增长,“内存墙”问题也愈发突出。

据悉,英伟达与AMD最新的高端GPU产品H100以及MI300中,都配备了目前最新的HBM3。并且,微软、亚马逊等多个科技巨头也都在排队抢购SK海力士的第五代高带宽内存HBM3E。

AMD CEO苏姿丰表示,HBM采用堆叠式设计实现存储速度的提升,大幅改变了GPU逻辑结构设计,DRAM颗粒由“平房设计”改为“楼房设计”,所以HBM能够带来远远超过当前GDDR5所能够提供的带宽上限。

TrendForce 最新报告预计,2023年AI服务器出货量(含GPU、FPGA、ASIC等)预估在120万台,年增长率近38%。AI芯片出货量同步看涨,预计今年将增长50%。与此同时,目前高端AI服务器GPU搭载HBM芯片已成主流,预计2023年全球HBM需求量将年增近六成,达到2.9亿GB,2024年将再增长30%。

而根据Omdia 数据,2020 年全球 HBM 市场规模为 4.58 亿美元,预计 2025 年市场规模将达到 25 亿美元,年复合增长率高达 40.38%。

不仅是AI,AR 和 VR市场的不断增长也在推动HBM市场的增长。根据 Astute Analytica 的数据,截至 2021 年,全球企业 VR 和 AR 市场价值为 189 亿美元,预计到 2030 年将达到 3649 亿美元,2022 年至 2030 年间的复合年增长率为 39.2%。

王志伟分析认为, VR 和 AR 系统需要更高分辨率的显示器。这些显示器需要更多的带宽来在 GPU 和内存之间传输数据,这正是 HBM 的用武之地。HBM 能够提供高达传统内存解决方案三倍的带宽,已成为高分辨率显示器的理想选择。

三分天下

过去,HBM的需求仅占整体DRAM市场的不到1%,而随着市场需求的进一步提高,各大存储厂商也展开了对这一市场的争夺。

HBM市场目前由三大DRAM原厂占据,根据TrendForce统计,2022年三大原厂HBM市场占有率分别为SK海力士占50%、三星约40%、美光约10%,而SK海力士是唯一实现了量产HBM3的厂商。预计2023年SK海力士将受益新世代HBM3产品的量产,其市场占有率有望提升至53%。

今年4月SK海力士又推出24GB HBM3产品(HBM3E),容量再度提升且采用更薄的DRAM芯片垂直堆叠,实现了与16GB产品相同的高度,而这也是头部公司争相向SK海力士申请样片测试的原因。

而这也让SK海力士在相对萎靡的存储市场得以支撑。财报显示,SK海力士第二季度合并收入为7.31万亿韩元,环比增长44%,同比下降47%;营业亏损2.88万亿韩元,环比增长15%,同比由盈转亏;净亏损2.99万亿韩元,环比下降16%,同比由盈转亏。2023财年第二季度营业亏损率为39%,净亏损率为41%。

SK海力士表示,尽管消费者需求持续疲软,但生成式AI市场的扩张已迅速推高了对AI服务器内存的需求。因此,HBM3和DDR5等高端产品的销量增加,从而推动公司第二季度收入环比增长44%,而营业亏损收窄15%。

不仅如此,SK海力士已明确明年上半年生产HBM3E,并将HBM4的生产目标时间定在了2026年。

另一存储巨头三星也计划投资1万亿韩元(约合7.6亿美元)扩产HBM,目标明年年底之前将HBM产能提高一倍,已下达主要设备订单。据当地券商KB Securities称,到2024年,HBM3将占三星芯片销售收入的18%,高于今年预计的6%。据韩媒报道称,三星负责芯片业务的设备解决方案部门总裁兼负责人 Kyung Kye-hyun 在今年7月早些时候的公司会议上表示,三星将努力控制一半以上的 HBM 市场(现在40%)。

作为三大原厂中市场份额占比最小的美光也不甘人后,美光的管理层在早前的发布会上声称,他们不仅会在 HBM3上迎头赶上,而且还会超越目前的领先者。

美光指出,客户现在正在试用其新的 HBM3 产品,并表示该产品比竞争解决方案具有明显更高的带宽,并在性能和功耗方面建立了新的基准。

值得注意的是,日前,美光已宣布已出样业界首款8层堆叠的24GB容量第二代HBM3内存,基于1β DRAM制程节点高带宽内存(HBM)解决方案,带宽超过1.2TB/s,引脚速率超过9.2GB/s,比现有HBM3解决方案性能可提升最高50%。美光介绍,第二代HBM3产品与前一代产品相比,每瓦性能提高2.5倍,可帮助缩短大型语言模型(如GPT-4及更高版本)的训练时间,降低总体拥有成本(TCO)。

关键词: