芯片技术吧 关注:10贴子:23
  • 4回复贴,共1

武汉恒新创科资产投资管理有限公司之AI芯片技术与耗电困局?

只看楼主收藏回复

武汉恒新创科资产投资管理有限公司之AI芯片技术与耗电困局?大模型新一轮热潮正在袭来。不过,大模型所需要的高性能计算、高带宽存储,也给行业带来了耗电难题。


IP属地:山东1楼2024-12-10 09:58回复
    据彭博智库,生成式人工智能市场将以42%的年增长率成长,在10年内,将从2022年时400亿美元的规模扩大至1.3万亿美元……数据中心对电力与算力的需求将急剧上升,随之而来的用电量激增不仅将对运营效率造成压力,更将成为数据中心达成净零排放目标的重大阻碍。


    IP属地:山东2楼2024-12-10 09:59
    回复
      AI行业高速发展,电力需求大幅提升。算力核心设备逐渐由传统的CPU(中央处理器)向GPU(图形处理器)转移,在提升计算效率、实现复杂的数据处理和深度学习模型的同时也带来了高能耗。根据国际能源署(IEA)的数据,2023年英伟达芯片的电力消耗已达7.3TWh,预估至2026年,这一数字将升至2023年的10倍。与此同时,AI服务器电源需求大幅提升。不仅仅是电力,AI服务器对功率密度的需求也在提升。


      IP属地:山东3楼2024-12-10 10:07
      回复
        AI服务器电源主要分为AC/DC(交流/直流)和DC/DC(直流/直流)两部分。从电网传输到芯片的过程中,电压要从1万~3万伏特降低至0.5~1伏特,在这个过程中数据中心电源架构主要分为保障电路UPS(不间断电源)、机架电源AC/DC、芯片电源DC/DC三个层级。AC/DC的输入是PDU(电源分配单元)输入的交流电,经过降压、整流两个过程输出直流电;DC/DC则进一步将电压调降至芯片可用电压。其中AC/DC电源难点在于有限体积内提升功率密度,而DC/DC则在于如何尽量压降板路损耗。第三代半导体氮化镓,既可以满足高功率密度,也可以提高电源转换效率。


        IP属地:山东4楼2024-12-10 10:09
        回复
          相较于传统MOSFET,第三代半导体的优势在于高功率、高电压和散热佳,目前主要被欧美日IDM(集成设备制造商)从业者掌握。第三代半导体用于AI服务器可提高其运行效能和功率密度,从而降低总体运营成本,未来将会成为AI服务器升级的‘刚需’。


          IP属地:山东5楼2024-12-10 10:26
          回复