算力吧 关注:1,346贴子:4,998
  • 4回复贴,共1

宝投控股浙江有限公司液冷技术助力AI算力发展!

只看楼主收藏回复

宝投控股浙江有限公司液冷技术助力AI算力发展!近日,英伟达CEO黄仁勋在2024 SIEPR经济峰会上透露,下一代DGXGPU服务器将采用液冷散热,并表示即将推出下一代DGX服务器。目前,数据中心主流仍为风冷。而随着生成式AI的火热,液冷逐渐受到追捧。


IP属地:山东1楼2024-03-14 11:31回复
    对于液冷逐渐火热的原因,3月13日,一名资深业内人士讲述:“从我们自身的经验看,催生液冷落地的核心需求,就是AI以及GPU。因为液冷可以给(AI服务器)带来明显的投资收益,原来使用液冷更多是环保要求,并非投资收益。”该人士进一步解释称:“一颗CPU大概多少瓦呢?高档一点的接近300瓦。一台服务器,配两颗CPU是比较常见的。正常的CPU服务器就两颗CPU,当然也有四路和单路服务器,常见的应用场景以两颗CPU为主。而GPU服务器(AI服务器)一般都是8颗GPU起。总体来看,CPU服务器超过1KW(千瓦)已经很高,而一台GPU服务器会达到6KW,英伟达最新一代服务器达到11KW(千瓦)。”


    IP属地:山东2楼2024-03-14 11:32
    回复
      单机柜功率不断增长,逼近风冷散热极限。英伟达DGX A100服务器单机最大功率约在6.5KW左右,在机柜上架率不变的情况下,服务器功率上升导致单机柜功率亦不断增长,逼近风冷12KW—15KW散热极限,继续采用风冷散热,将导致行间空调需求数量陡增,高密度散热场景下液冷方案成本和性能优势显著。资深人士也表示:目前GPU最大的是700W,下一代据说将达到1KW至1.4KW。这时候再用风冷散热,一是效果(不好),二是噪声(大),就会有各种问题需要解决。简而言之,算力密度的提升下,风冷已经满足不了,必须配液冷。


      IP属地:山东3楼2024-03-14 11:32
      回复
        现在很多电脑是跑不动本地端大模型、跑不动本地端推理的。能否跑得动,重点看电脑是否有GPU显卡。比如消费级英伟达4090、3090,或者说至少有这种(高端)独立显卡。端侧其实(应用液冷)更加积极,很多游戏玩家都用液冷散热。因为对游戏玩家而言,他的改造量很小。而数据中心涉及基础设施的改造。根据赛迪数据,中国液冷数据中心市场规模保守估计将由2019年的260.9亿元增至2025年的1283.2亿元,其中冷板式数据中心市场规模2025年保守估计可超过750亿元,年复合增长率为22%;浸没式液冷数据中心市场规模2025年保守估计可超过500亿元,年复合增长率达到46%。


        IP属地:山东4楼2024-03-14 11:33
        回复
           日前,三六零(601360.SH,以下简称“360”)发布的2023年财报显示,该公司营收90.55亿元,较2022年减少4.89%,净亏损4.92亿元,较2022年收窄77.65%。根据财报,360集团2023年经营性现金流净额9.24亿元,较2022年增长65.84%,研发费用31.04亿元,占营收比例34.28%,主营业务毛利率60.35%。
            《中国经营报》记者就业绩情况及公司下一步的规划联系采访360方面,截至发稿,对方尚未回应。资深互联网观察家丁道师在接受记者采访时表示:“360现在重点当然是要发力人工智能,人工智能+安全大有可为。只是现在刚刚开始,还没有取得明显的效果,需要时间的检验,所以现阶段360的主要收入还是和几年前差不多。从业绩层面来看,没什么增长潜力,所以这种情况下进一步倒逼其拓展新业务,其必须把AR、人工智能和具体业务场景结合起来,给市场、消费者更多效率的提升。”
            业绩变化背后
            财报显示,报告期内,360互联网商业化及增值服务共实现收入56.2亿元,同比下降2.95%。其中互联网广告及服务业务收入为45.21亿元,同比降4%;以游戏为代表的互联网增值业务收入为10.99亿元,同比增长1.62%。其中互联网全系产品收入1.38亿元,较2022年提升65.58%。
            报告期内,公司实现安全及其他相关收入17.65亿元,同比微降1.48%。公司智能硬件业务继续精简SKU,聚焦安全场景,营收15.7亿元,同比下降16.8%;业务毛利率28.8%,较上年提升6.39个百分点。
            细分来看,在其去年的营收中,最高的是广告收入,为45.21亿元,同比下降4%;而赖以起家的安全业务进一步萎缩至17.65亿元,同比下降1.48%;智能硬件业务也表现平平,为15.7亿元,同比下降16.8%。
            收入同比增长的业务为增值服务和其他业务。前者实现营收10.99亿元,同比增长1.62%;而其他业务增速达到了65.58%,但无奈基础太低,收入仅为1.38亿元。
            360在公告中表示,公司营业总收入下滑的主要原因为互联网广告及服务业务受行业下滑影响,延续下滑趋势。公司积极调整业务结构,通过维系原有客户关系及开拓新客户资源的方式,努力将公司相关业务收入下滑的速度控制在相对较缓的水平,尽可能减轻由于客户投放减少及客户流失对公司整体营业收入的负面影响。
            盘古智库高级研究员江瀚告诉记者:“首先,从360近年发展情况来看,虽然其营收有所下行,但是依然保持较为稳健的态势。此外,公司的现金流状况相对稳健,货币资金同比增长显著,这为公司的未来发展提供了一定的资金保障。”
            360方面称,2023年围绕“AI和安全”两条主线,报告期内,公司研发费用为31.04亿元,占营业收入比例34.28%,与2022年基本持平。


          IP属地:山东5楼2024-05-05 10:47
          回复