三星电子沈昊俊:采用并行搭载HBM和DRAM的方式逐渐成为行业趋势

(全球TMT2024年9月3日讯)9月3日,“2024开放数据中心峰会”在北京召开。三星电子副总裁兼闪存应用工程师团队负责人,沈昊俊在会上发表主题演讲。他介绍了推动社会进入生成式AI新时代的三大因素,即计算能力的飞跃,大语言模型(LLM)的精进,以及各种AI服务的兴起,并进一步探讨了生成式AI时代“更优AI”的技术趋势,指出新时代面临的挑战不仅仅是存储器大容量的需求,随着迈向更精密的AI模型,存储器的高性能读写能力也是当下面临的巨大挑战。

三星电子副总裁,闪存应用工程师团队负责人沈昊俊(Thomas Shim)发表主题演讲

沈昊俊介绍,为克服性能和容量的制约,采用并行搭载HBM和DRAM的方式正在逐渐成为行业趋势。三星半导体目前单芯片容量最大32Gb的DDR5内存产品,不久将可供应128GB/256GB等大容量封装规格;以及拥有目前三星最高随机写入性能400K IOPS的高性能8通道PCIe Gen5 SSD PM9D3a。三星的主要代表产品有通过12层单die24Gb容量堆叠技术实现的36GB容量的HBM3E Shine Bolt;LPDDR5X-PIM产品能够将系统能效提高70%左右,同时可以将性能提升最多8倍。三星基于QLC NAND技术的SSD产品BM1743未来可提供大容量规格计划。