AI时代,Chiplet、异构集成、FOPLP等先进封装技术的机遇与挑战

B站影视 2024-12-02 21:16 2

摘要:近两年来,随着ChatGPT等大模型浪潮的兴起,AI技术与应用取得了突破性的进展。这些高算力AI应用对计算能力的需求与日俱增,推动了对高性能计算芯片与Chiplet集成技术的需求。

近两年来,随着ChatGPT等大模型浪潮的兴起,AI技术与应用取得了突破性的进展。这些高算力AI应用对计算能力的需求与日俱增,推动了对高性能计算芯片与Chiplet集成技术的需求。

随着摩尔定律放缓,通过三维芯片堆叠和先进封装技术的Chiplet异构集成系统成为突破先进工艺制程瓶颈和算力提升突破的重要引擎。后摩尔定律时代,为适应电子设备的便携性和小型化趋势,异构集成Chiplet技术、先进封装与系统级封装SiP技术成为集成电路持续发展的重要方向,其具有封装效率高、成本低、尺寸紧凑等诸多优势,迎来广阔发展空间。

在此趋势下,11月27日,由博闻创意会展主办的第八届中国系统级封装大会SiP Conference China2024·苏州站在苏州日航酒店隆重召开。

本次大会现场汇聚了来自EDA、IP、AI和大算力芯片、存储器及芯片设计、OSAT、晶圆制造商、封装设备材料商、系统级应用厂商、学院研究机构、分析机构等领域的专家和嘉宾,围绕异构系统集成Chiplet芯片技术设计与测试、2.5D/3DIC封装技术、SiP封装量产方案、PLP面板级封装技术、先进封装设备材料与基板技术等行业热门话题进行了交流与分享。

中国半导体行业协会副秘书长兼封测分会秘书长徐冬梅在致辞中表示,在后摩尔时代,异构集成、先进封装成为了推动行业发展的关键驱动力,也是业界普遍认为超越摩尔定律的重要途径。不仅满足了高效人工智能、自动驾驶等新兴领域对芯片性能的极致追求,更为整个产业链带来了广阔的市场空间和发展机遇。

根据Yole的数据,预计先进封装市场将在2027年达到650亿美元的规模。2021到2027年间,年化复合增长率将达到9.6%,显示出强大的增长潜力。

面对这一趋势,中国半导体行业积极响应,不断探索实践,从TGV玻璃基板到接口标准的统一,再到AI、汽车等领域的广泛应用。我国在异构集成和先进方面取得了显著的成绩,这不仅仅是技术上的突破,更是产业布局与市场拓展的双重肯定。我们有理由相信,在不久的将来,中国将在这场全球性的技术竞赛中占据更加重要的位置。

l 芯和半导体:集成系统创新迎接AI时代挑战

主旨演讲环节,芯和半导体副总裁仓巍带来《集成系统创新迎接AI时代挑战》的主题演讲。仓巍表示,从2018年机器产生的数据量首超人类开始,半导体行业开始迎来第三次大演进——万物AI时代。

芯和半导体副总裁仓巍

AI浪潮驱动下,超级应用推动半导体行业向万亿规模狂奔,预计2030年半导体规模将超过一万亿美元,且增速在显著提升。其中,计算数据存储行业贡献最大,而汽车电子和计算机硬件行业因受AI影响最为直接,增长最为迅速。

随着GPT大模型技术迅速发展,训练这些大模型所需的计算资源和成本也大幅增加,凸显了AI研究领域的巨大投入与进展。

仓巍强调,半导体行业在处理大量数据和高参数量时面临四大挑战:计算力不足、内存带宽限制、数据中心内部硬件互联带宽问题以及能耗增加。算力的增长速度远不能满足大模型对算力的惊人需求,而内存带宽的提升远落后于算力增长,导致数据中心整体计算能力受限。此外,数据中心的能源消耗问题也日益严重,预计到2026年将大幅增加,对可持续发展构成挑战。因此,行业需从算力、场地和能源效率等方面寻求突破,以应对这些挑战。

当前,尽管摩尔定律面临终结的预测,半导体行业通过3D异构集成等创新技术持续优化,实现芯片集成更多晶体管,满足AI等高性能计算需求。英伟达、特斯拉等领先公司通过数据中心网络优化,自研芯片与系统等方式提升算力与带宽,展现未来计算平台的发展方向。

在分享中,仓巍强调了AI时代为芯片设计领域带来的发展机遇,同时指出了EDA行业的变革,从传统的芯片设计转向为智能系统设计提供解决方案。介绍了芯和半导体公司如何通过与产业链合作伙伴的合作,推动端到端多物理场仿真EDA技术的发展,以赋能AI硬件系统设计。

最后,仓巍提出了把握未来发展的三大趋势:集成芯片系统化——Chiplet异构集成、集成系统规模化——高速高频互联、EDA从芯片设计到系统设计流程升级,强调了这三大趋势对于把握AI时代机遇的重要性。

l 翊杰科技:AI芯片:CoWoS /HBM技术方向与未来展望

翊杰科技执行长兼总经理苏进成在《AI芯片:CoWoS /HBM技术方向与未来展望》的主题分享中讨论了AI芯片产业的发展,特别强调了英伟达在AI芯片领域的领导地位及其对台积电营收的潜在影响。

苏进成指出,台积电AI相关营收在2024年约为100亿美金,占其总营收不到18%,但预计到2027年将增长至近300亿美金,营收占比高达20%。

此外,还分享了台积电如何通过多年研发提升芯片速度和集成度,着重于消除瓶颈以提高效率。提到传统芯片与存储器分开制造的问题,以及如何通过技术创新将它们整合在同一芯片内,以缩短数据传输路径,提升整体性能。同时,强调了工艺难度和不同层级线宽之间的巨大差距,显示了在技术挑战面前的创新重要性。

演讲嘉宾表示,在半导体封装领域,一种新的技术方案通过改变中介层材料,实现了成本降低与集成度提升的平衡。传统的中介层采用芯片工艺,现在转向使用玻璃材料,以降低成本。然而,这种方法在细微度上有所妥协。为解决此问题,台积电提出了局部使用晶圆技术的策略,即在关键区域采用高集成度的芯片技术,而在非关键区域采用成本更低的材料,这样既能满足高性能要求,又能控制成本。这表明,根据具体需求灵活选择封装技术是提高产品竞争力的有效途径。

此外,本次演讲还主要讨论了英伟达最新的产品和技术趋势,重点强调了芯片的小型化、集成度提升和速度加快的趋势。提到了光刻机EUV及其关键工具在半导体制造中的重要性,以及光掩膜技术的创新,这种技术可以显著增加芯片面积,从而提升生产效率。此外,还介绍了内存技术的进展,如HBM和多芯片堆叠技术,以及这些技术如何解决存储器和运算器之间的通路瓶颈,提升数据处理速度和效率。提到了实现这些技术的关键挑战和解决方案,如TSV深孔技术和金属连线技术。

苏进成还分享了AI芯片技术与产业格局,讨论了AI芯片技术的发展,包括内存技术、运算器和HBM4的整合,以及工艺制程的挑战。强调了产业内主要企业的参与和贡献,如SK海力士、三星和美光在内存技术上的努力,以及英伟达在AI芯片领域的持续投入。同时,分析了AI产业的商务影响,特别是在中国市场的应用,以及中国台湾半导体产业的快速发展和对全球经济的影响。

最后,提到了中国在AI技术应用中的重要角色和面临的挑战,以及中国台湾半导体产业的投资情况。

l Solidigm:CASL方案助力DPU DOCA存储服务BeeGFS

Solidigm首席存储解决方案架构师高伟带来了《Solidigm CASL软件解决方案利用IO整形,cache和数据放置能力助力DPU DOCA存储服务BeeGFS》的主题分享。

高伟分享了DPU在AI领域的应用,强调了它对存储和计算资源的优化作用。提到了软件解决方案如何利用DPU提升效率,并讨论了在大数据和云计算平台上的商业落地情况,还涉及到软件在解决特定技术问题上的优势,如快速处理和资源优化。此外,演讲还展望了DPU技术的发展趋势和未来应用前景。

在会议中,Solidigm介绍了CSAL在DPU中的开发与部署。CSAL在DOCA中的部署实践与不断完善,显示CSAL正在从一个“取长补短”的分层存储解决方案,向更适合AI需求的存储基础架构迈进。

据介绍,‌Solidigm的CSAL(Cloud Storage Acceleration Layer)‌是一个开源软件栈,旨在通过优化存储性能和降低成本,提升QLC SSD的使用效率。CSAL由SPDK(存储性能开发工具包)和商用服务器组成,作为基于主机的闪存转换层(FTL),支持高密度QLC SSD的使用,特别适用于混合工作负载场景‌。

通过将CSAL和BeeGFS部署在DPU中,使得DPU可以通过CSAL为高性能、大容量存储提供缓存(Cache)或写整形(Shaping)服务。从GPU角度看,存储网络就是一个基于NVMe-oF的虚拟盘。随着开发的深入,CSAL可以更为充分地利用DPU的性能和功能,为AI集群构建更为强劲的存储架构。

BeeGFS是业内广泛使用的一套并行文件系统,可构建高性能、可扩展、灵活和健壮的分布式存储系统。BeeGFS已经有超过10年的历史,作为一款开源产品,可供用户终身免费使用,主流的操作系统均可提供支持而无需添加内核补丁,其部署不依赖特定版本的操作系统。

BeeGFS受到欢迎的主要特点是高性能,尤其是对高并发访问进行了优化,能够胜任高负载、高吞吐量的应用。这个优点使其尤为受到HPC、AI算力集群的欢迎。

当前随着AI的发展,对存储提出的最直接的需求就是更高的性能,同样重要的还有更大的存储容量,这两点它对于未来处理更大规模的训练数据集非常重要。

为了做到这两点,Solidigm推荐用户使用CSAL这一开源软件来构建存储方案。CSAL是一个开源项目,它使用高性能SSD作为快速缓存和写入缓冲区,优化对NAND的写入,减少写入放大并提升性能。

据了解,Solidigm提供多种高性能存储解决方案,包括D7-P5810、D7-PS1010、D7-PS1030等,这些产品专为满足严苛的工作负载设计,特别适用于AI数据管道的加速‌。此外,Solidigm还推出了D5-P5336,这是一款面向数据和读取密集型工作负载的超可扩展且经济高效的解决方案,适用于从边缘到核心的各种使用场景‌。

传统的元数据服务运行在专门的服务器当中,相应的会带来服务器和网络端口(交换机)的硬件开销。在DPU概念出现后,将存储服务从CPU卸载到DPU是一项重要的工作。

目前BeeGFS已经可以直接将元数据服务部署在DPU当中,相当于DPU部分内核提供了基于Arm架构的元数据服务器(CNode)。这样做就可以节省了传统的独立的元数据服务器的开销,也简化了网络架构,节省成本和机架空间,降低能耗和时延,符合高性能算力集群高性能、高密度的发展趋势。譬如NVIDIA SuperPOD配置了至少两块DPU配合GPU-direct RDMA用于南北向通讯。DPU在部署元数据服务后,DPU通过交换机即可与存储服务器相连。通过扩展DPU的性能和数量,GPU可以直接访问规模更大的存储网络。

整体上看,DPU也不仅是部署元数据服务,其实也可以部署存储服务。不同的DPU可以部署不同的服务,有的DPU为GPU管理虚拟化的存储,有的DPU直接管理磁盘。

智能网卡、DPU的初衷是将一部分业务从相对昂贵的CPU当中转移出来。随着DPU逐步集成了更多、更强的加速器单元,以及与GPU关系趋于密切,DPU已经成为基础架构当中举足轻重的角色。CSAL、BeeGFS部署于DPU的直观效果便是减少传统存储服务器的硬件成本、提升部署密度。在Solidigm的积极开发与推动下,CSAL与DPU互相成就,极大的拓展了CSAL的应用潜力,共同助力AI时代存储架构迈上新的高度。

通过这些技术和产品,Solidigm不仅在存储领域取得了显著成就,还为AI时代提供了广泛的端到端存储解决方案。Solidigm基于CSAL的方案,既可以提供更高的性能的同时,也能提供更高的容量。对于AI场景而言,它可以为AI加速器提供充足的数据供应,极大提升XPU的利用率,致力于释放数据价值,迎接AI技术革命带来的机遇‌。

奕成科技VP & CTO方立志在《FOPLP应用于AI HPC异构集成封装,从玻璃载体到玻璃基板》的主题分享中指出,人工智能和高性能计算(HPC)的快速发展是先进封装技术的关键驱动因素。CoWoS晶圆级技术目前在该领域占据主导地位,随着每个封装体中集成的芯片越来越多,晶圆级扇出封装(FOWLP)和基板尺寸显著增加。生产效率已成为一个关键问题,特别是考虑到客户的强劲需求。

此外,由于技术挑战和可靠性问题,大型硅中介层正在被较小的中介层所取代。因此封装行业开发扇出形面板级封装(FOPLP)技术来满足未来的需求。

据介绍,FOPLP相比FOWLP产出效率为4-6倍,成本相对较低;之前FOPLP多用于低阶产品,而FOWLP用于高阶和低阶产品,自从台积电投入FOPLP应用于 AI HPC之后,这一现状得以改变。

但优势之外,FOPLP仍面临挑战:

经过多年的努力,面板级封装技术现在已经准备好大规模生产高I/O密度的扇形封装。FOMCM和SoP已经量产,据悉,奕成科技是国内第一家量产板级FOMCM用于高密信号互联AI HPC的产品。FO-EB预计2025年导入量产,FO-EB是在FOMCM的基础上加入bridge Die能达到更高密度互联,具备更强性能优势。

此外,方立志表示,面板级封装可以使用玻璃载体用于高I/O密度FO封装,也可以将玻璃面板加工技术用于玻璃基板,为FOPLP开发的精细图像化能力也可以应用于玻璃基板。

相较之下,玻璃基板除了能实现更高的密度信号互联之外,材料尺寸稳定性更佳,相同的设计应用可以做出更小的基板;若未来技术成熟后,有机会进一步提升良率、降低成本。

不过当前玻璃基板仍面临一些挑战:

随着越来越多的行业参与者进入FOPLP领域,该生态系统有望变得更加强大,共同推动这一技术的发展和落地。

l 腾讯云:半导体企业新挑战下的数智化转变价值

腾讯云半导体行业首席专家刘道龙的演讲主题是《半导体企业新挑战下的数智化转变价值》。他表示,如何加速半导体企业数智化转型,云计算、人工智能、大数据、信息安全、协同办公、芯片开发及设计平台、EDA工具、IP/PDK、晶圆质检、数据分析与治理、一站式设计服务等成为了转型的关键。

演讲开头,刘道龙分享了腾讯25年技术锤炼,构筑坚实的云计算基础。

在数字加智能的方案中,腾讯云通过一系列的产品技术迭代和生态创新,推动了从消费互联网向产业互联网的转型。这包括为各行各业提供基础设施和平台,加速企业数字化转型,特别是在人力资源、交通、能源、化工和制造等领域,展示了与传统制造业合作的价值。

刘道龙介绍了腾讯云为半导体企业提供的一系列数字化转型方案,包括但不限于芯片设计、制造封测、研发创新、协同办公、企业管理与营销、专业服务以及数据分析治理等方面。通过腾讯云的数字化平台,能够帮助半导体企业在多个领域实现价值提升。

在数字化转型与制造业合作中,腾讯通过其全球基础设施、技术产品与服务,助力制造业的数字化转型。提及了云计算、大数据、人工智能、区块链和信息安全等技术在to c和to b企业中的应用,强调了对行业理解、客户需求和技术创新的重要性。此外,还提到了与众多企业合作的生态系统,以及在云计算、存储、网络等领域的领先地位,阐述了腾讯在半导体行业及其他领域的解决方案和挑战。

在探讨半导体行业数字化转型的挑战时,刘道龙重点强调了腾讯云的技术优势和提供的全面解决方案。这些方案涵盖从底层技术如计算、人工智能、大数据和物联网的支持,到一站式的芯片设计人平台解决方案、加速量产的产品升级方案、AI加数字化系统方案,以及企业营销智能服务和数字分析与治理。通过建立广泛的行业应用生态,覆盖设计服务商、订单服务商、装备材料供应商等,腾讯云旨在帮助上下游企业共同推动业务增长,解决芯片设计、流片周期、效率和质量等数字化转型中的具体问题。

截至目前,腾讯云利用自身技术优势、连接优势、生态优势,积累了数百家半导体企业数字化转型经验,覆盖半导体企业上中下游各个场景,从协同办公、研发创新、智能制造、企业运营、员工与人才的管理与培训,丰富多样的核心技术、平台、资源等,全面助力半导体企业弯道超车。

对于半导体行业客户来讲,通过设计方案、数字化智能办公、协议交流服务和资产保护等一站式服务,加速芯片上市周期,实现降本增效。此外,利用大模型辅助设计效率,构建企业智能知识库,以及通过AI检测基因缺陷等技术,加速芯片量产化进程。同时,运用钉钉等工具提高计算工作和交流管控效率,提供灵活部署和快速使用的数字化办公体验。

综合来看,面对半导体企业数智化转型的机遇与挑战,腾讯云通过提供半导体行业智能化解决方案与服务,致力于推动半导体企业数字化转型与生态合作。

主论坛之外,此次SiP China大会还采用以行业应用为驱动的分论坛模式,涵盖了AI异构集成设计与应用、封装制造工艺与材料等多个热点话题,汇聚上千位行业工程师、企业高管和产业专家,为我们带来了一场知识盛宴。

通过本届大会,期待产业链公司进一步加强前沿技术交流,高端圈层的融合,能够加深了解、增进合作,共同应对行业挑战,把握发展机遇,携手努力为促进中国乃至全球半导体产业的健康稳定发展贡献力量。

来源:半导体行业观察一点号

相关推荐