【白皮书市场研报】ODCC-2023-02004+冷板液冷标准化及技术优化白皮书.docx
QODCC/敏开放IdI中心*具会编号ODCC-2023-02004冷板液冷标准化及技术优化白皮书编写组项目经理:王舜北京秦淮数据有限公司工作蛆长I李代程百度在线网络技术(北京)有限公司贡献专家:张炳华北京秦淮数据有限公司王长旺广州高澜创新科技有限公司耿曼广州高澜创新科技有限公司崔旭静北京奕信通科技有限公司李晓峰北京奕信通科技有限公司刘凯艳曙光数据基础设施创新技术(北京)股份有限公司徐欣曙光数据基础设施创新技术(北京)股份有限公司李金波浪潮电子信息产业股份有限公司韩玉普洛斯普瑞数据科技(上海)有限公司金超强普洛斯普瑞数据科技(上海)有限公司陈聪北京三快云计算有限公司李瑞雅北京秦淮数据有限公司刘永彬北京秦淮数据有限公司冯臣北京秦淮数据有限公司刘帆中兴通讯股份有限公司给建刚中兴通讯股份有限公司李新起深圳市英维克科技股份有限公司黄强深圳市英维克科技股份有限公司王GI彬丹佛斯(中国)投资有限公司李慧勇新华三技术有限公司陈立波新华三技术有限公司魏芳伟科华数据股份有限公司沈嘉辉科华数据股份有限公司董玉山中航光电科技股份有限公司杨占喜ColderProductCompany李洁中国信息通信研究院郭亮中国信息通信研究院吴美希中国信息通信研究院阮迪中国信息通信研究院本规范由开放数据中心标准推进委员会发布。2015年,OpenAI成立,通过GPT(GenerativePre-trainedTransformer)算法,在2018年6月推出了GPT-I(1.2亿参数),在2019年U月增加了训练的数据量后推出了GpT-2(15亿参数),在2020年6月推出了GPT-3(1750亿参数)。随着数据参数的加大发现差异很小,后加入人工反馈强化学习来提升对话质量,在2022年3月推出了GPT-3.5:对话优化后,在2022年11月就推出了ChatGPT=月活人数突破1亿仅用时两个月。2023年2月7口微软将ChatGPT引入到搜索引擎Bing正式发布。除了微软,谷歌、Meta、百度、腾讯、阿里巴巴纷纷入局进军生成式A1.生成式AI模型需求的暴涨,使得对芯片的需求从CPU+加速器转变为以GPU主导的大规模并行计算。未来,在单芯片性能之上,智算中心能够通过算力的生产-调度-聚合-释放,支持Al产业化发展。现阶段,单CPU热设计功耗为150200W,最高可达350N:单GPU热设计功耗为300400W,最高可达700W。与此同时,服务器功耗从传统服务器的Ikw增加到Al服务器的6.5-IOkWo空气冷却解决成本和难度大幅上升,英伟达、英特尔等芯片公司已经开始将冷却的方式转向液冷。液冷是指通过液体代替空气冷却芯片,根据液体与芯片是否接触可以分为直接液冷和间接液冷。直接液冷包括浸没液冷和喷淋液冷,浸没液冷又分为单相浸没和两相浸没。而间接液冷主要是冷板液冷。早在20世纪60年代,IBM就推出了用冷板液冷冷却的计算机产品。直到21出纪初,美国GRC(GreenRevolutionCooling)公司推出了单相浸没冷却解决方案。2017年,广东合一推出了喷淋式液冷。2019年曙光完成全球首个大规模刀片式浸没两相液冷商业应用项目。2021年,微软发布了箱体式两相浸没液冷方案。而冷板液冷作为历史最悠久,技术最为成熟,生态系统最为丰富的液冷解决方案,它的爆发已经到来!本白皮书倾注了作者大量的时间和精力,其成文也仰仗各参编老师撰写并参与讨论,其次,本文得到程军先生、王锋先生、何智强先生和袁达人先生提供的产品资料,在此对上人员做出的贡献表示由衷的感谢。此外,本文很多化工类专有名词的解释均得益于ChatGPT,令人充分感受到科技的便利和AI的潜力。最后,作者尽量用实物照片为读者生动呈现相关技术和产品,希望通过本白皮书促进冷板液冷技术快速迭代优化,为读者在冷板液冷的实践和决策提供有价值的信息和建议。由于时间仓促,水平所限,错误和不足之处在所难免,欢迎各位读者批评指正。如有意见或建议请联系dceco-目录版权声明I编写组B前SIV冷板液冷标准化及技术优化白皮书1一、概述1二、术语、定义和缩略语1三、冷板液冷介绍8(一)冷板液冷技术介绍81 .冷板液冷发展历程82 .冷板液冷技术原理103 .冷板液冷技术特点124 .冷板液冷关键技术15(二)常用产品器件介绍161 .冷板组件172 .快速接头QDC203 .软管244 .机柜工艺冷媒供回歧管RCM255 .冷录分配单元CDU266 .环路工艺冷媒供回歧管IXV297 .冷源_咫308 .工艺冷媒34(三)冷板液冷发展面临的主要挑战402 .泄獭423 .冗余路由444 .高成本445 .建设周期长456 .能耗何!½457 .冷源水耗46四、工程标玳化及设计要求46(一)标准化现状及衡求461 .标准化现状462 .标准化需求48二)工程标准化设计要求501 .二次侧管路502 .功能要求54(三)典型窠例介绍551 .江苏某大数据产业园项目552 .厦门某智算中心573 .山西某大规模冷板液冷数据中心584,广州科云数据中心59五、按液材料研究60(一)传统材料61(二)国外推荐材料611 .金属与金属合金类612 .合成橡胶.型料和箕它材料类63/Vll9Qc423-O2O04(三)国内常用非金属材料652.密封件材料69(四)新材料管路设计制造及测试方法721 .设计原则722 .管路制造743 .测试74Ti)其它行业领域冷板液冷新材料应用761.百流输电领域762,静止无功补供装置SVC冷却领域773.储能领域78(六)数据中心新材料应用案例811 .国内数据中心案例812 .国外数据中心窠例83六、冷板液冷新技术展望89(一)负压冷板液冷技术891 .技术背景介绍892 .负压O)U技术原理893 .负压液冷系统方案技术亮点924 .应用案例94二)相变冷板冷却技术971 .重力热管方案972 .动力热管方窠98(三)冷板液冷气-液混合技术98一.»viacC-2023-020(M1 .风冷O)U».三99。尹二须2 .气-液组合末端102冷板液冷标准化及技术优化白皮书一、随着AI时代的到来,冷板液冷技术作为一种解决高算力发热的冷却方式,已经成为行业最热门的话题之一,得到越来越广泛的关注。本文将分四个部分进行展开:第一部分:对冷板液冷技术进行介绍,从发展历程、技术特点、关键技术、器件组成等方面逐一介绍,并指出其发展面临的主要挑战。第二部分:对冷板液冷的工程标准化进行分析,从标准化的现状,到标准化的需求,并指出设计和功能要求,最后分享些典型数据中心案例。第三部分:通过接液材料的详细描述,为读者呈现除传统材料外,其他行业领域和国内外数据中心对新材料的应用情况分享。第四部分:对近几年冷板液冷出现的新技术进行介绍和展望。二、术语、定义和语AF1.ASAsahiGlassFIUoroelaStomer的简写。它是由日本施硝Ti株式会社(AsahiGlassCo.,1.td.)开发的一种特殊的氟橡胶材料,学名是聚四氨乙烯聚丙烯共聚物,它具有优异的耐化学性、耐高温性、耐油性和耐候性,常用于制造密封件。CDA铜发展协会(CopperDevelopmentAssociation).CDU冷量分配单元(CoolantDistributionUnit)用于实现液冷系统的二次侧冷却环路驱动、稳压和自动配流,同时实现一二次PPSU聚苯碉(PoIyPhenyISUIrOnC),一种无定形的热塑性工程塑料,具有高度透明性、高水解稳定性,是所有高性能热塑性塑胶中最牢固的材料之一。该材料兼具强大的机械特性与耐热和耐化学性,因此非常适于通常负载较高和需接触化学品的各种要求严苛的应用。PSU聚碉(Polysulfone),是种特定的高性能工程塑料,它具仃高温稳定性、机械强度、耐化学腐蚀性、电绝缘性和耐磨性等特殊性能。PTFE聚四盆乙烯(Polytetrafluoroethylene).也称为特籁龙Teflon",具有强抗腐蚀性,可以耐受包括王水在内的强酸强碱溶液:低摩擦系数,可用于轴承、垫片和密封环等高摩擦部件:电绝缘性,可作为电缆绝集材料。PUE能源利用效率(PowerUsageEffectiveness),是数据中心最也要的评价指标之一,定义为数据中心总耗电与IT设备耗电之比。PVC聚氯乙烯(PolyvinylChloride),是种普遍使用的塑料,可以用于管道、电缆、地板、窗框等,但其耐高温性能较差,公释放出挥发性化仑物危宙人类健康。PVDF聚偏二氟乙烯(PolyvinylideneFluoride).相比PTEF,其刚性、硬度、电绝缘性、抗蛾变性能尤为突出,是最强韧的疑材料.QDC快速接头(QuickDisconnectCoupling),包括自锁式快速接头(手插和盲插)、球阀式快速接头。RCM机柜工艺冷媒供回歧管(RackCoolantManifold)用于向机柜内各液冷冷板分配工艺冷媒的装置。SFN二次侧流体管路(SecondaryFluidNetworks)»加拿大液冷厂商CoOln"的命名方式、同1.CMoSUSSUS是日本JIS(日本工业标准)中使用的不锈钢材料标准的简称.在过去,日本的不锈钢材料常常使用SUS作为牌号的前缀,例如SUS304代表符合JISG4303标准的304不锈钢。SVC铮止无功补偿装置(StatiCVarComPCnSator),由电容器小各种电抗元件构成与系统并联并向系统供应或从系统吸收无功功率的装置.做点采用自动压力脉冲法测定绝缘液体的倾点.具体方法为:按照SH/T0771-2005,将试样注入样品杯后,首先将液体加热到规定温度,然后以1.5±0.ir/min速度用珀尔帖装置冷却,仪器每降低IU或3U时施加一次压缩脉冲僦气到式样的表面,通过光源照射试样,当施加脉冲时使用光学检测器检测试样表面的移动。当施加压缩脉冲氮气时观察不到试样表面的移动时,就是试样的不潦动点,最后一次施加压缩脉冲氮气时可以观察到试样表面移动的温度即是倾点。储备城(保留碱度)测试方法为:将IOm1.的待测水溶液用水稀至约100tn1.,再用浓度为01InOI/1.的盐酸标准滴定溶液滴定到PH值为5.5«记录滴定所消耗的盐酸标准滴定溶液的升数,精确至U0.1m1.。含水量蓼考NB/T42140-2017,用卡尔费休自动电量滴定法测定绝缘液体中水分的含量。浊度按照HJ1075-2019.利用一束稳定光源光线通过盛有待测水溶液的样品池,传感器处在与发射光线垂直的位置上测量散射光强度,测量出水溶液的散射浊度,年位为NTUe或选用在线式浊度仪进行实时监测系统中水溶液的浊度的变化。颗粒物浓度按照ISO11500进行颗粒物浓度测定。用在线或者离线的自动颗粒计数系统,测量出一定体枳工艺冷媒中不同大小粒径的颗粒的分布情况。腐蚀产物元素含量采用电感耦白等离子体原子发射光谱(ICP-AES)测定工艺冷媒中金属(如Ca,Mg,Al,Cu,Fe,Zn等)和部分非金属元素(如Si,S和P)的含fit.有机物污染物采用傅里叶红外光谱仪(FTIR)分析辄化液或并油样中溶解的有机物(如塑化剂DOP)的情况.缓蚀剂浓度采用分光光度计测量工艺冷媒中馈蚀剂(如有)的浓度。为了测量缓蚀剂的浓度,需要首先知道缓蚀剂的吸收峰的位S.然后用不同浓度的缓蚀剂溶液绘制出标准浓度曲线。测量出待测工艺冷媒在特定吸收峰出的吸光度后,根据标准浓度曲线发推出液体中缓蚀剂的浓度电化学腐蚀为两种电势差较大(一般大于0.6V)的金属接触,且被浸润在同一电导率较高的工艺冷媒中,就会发生电化学腐蚀。这种电势差会迫使电子从电势较低的活泼金属流向电势较高的不活泼金属,失去电子的活泼金属将被腐蚀。此外,即使在金属不接触时,因为溶解的铜离子以非常低的浓度沉积在铝表面,造成铝被铜腐蚀。微生物滋生水系统中微生物滋生可能导致冷却回路中的沉积、污垢和腐蚀。防止微生物生长包括(1)确保硬件内部由不含生物有机体。(2)用杀生物剂处理以控制细菌种群。为了避免生物生长,硬件应运输并干燥储存。在运输和储存之前,必须尽切努力吹净水,保持干燥。结垢结垢是指在二次侧系统表面沉积致密的盐。当由于高浓度或温度升高而超过盐在水中的溶解度时,就会发生结垢。污垢污垢是非结垢物质的沉积,如腐蚀物和有机物。真菌,如镰刀菌,会生长、污染和堵塞过滤器以及翅片散热器。它们通常生长在冷却塔水池或污水坑上。表3-9ASHRAE推荐的一次侧冷冻水和工艺冷媒的水质要求次健冷却水RS工艺冷媒TCSPH7.0-9.08.09.5缓蚀剂Corrosioninhibitor(三)需要需要抑菌剂Biocide/需要硫化物Sulfide<10PPm<1即m硫酸盐Sulfate<100ppm<10PPm筑化物ChIOride<50ppm<5ppm细菌Bacleria<1000Cn1.<100CFUsZm1.总硬度(CaCO>)Totalhardness(asCaCOa)<200ppm<20pxn电导率Conductivity/0.220s/cm总悬浮固体Totalsuspendedsolids/<3ppm蒸发后残留物Residueafterecaporation<500ppm<50PPm浊度Turbidity<20NTiJ<20NTU2.相比空气冷却,行业对冷板液冷的可靠性有很多顾虑,尤其漏液造成服务器短路的情况几乎无法接受,因此,行业需要完善的系统级、机柜级、节点级漏液检测、漏液集中回收、漏液保护等解决方案。液冷循环体系中的腔体和流道,密封式基本功能,但由于结构材料、接口和密封方式众多,往往产生泄漏点,部分泄漏场景包含:(1)低温下工质凝固导致冷板鼓包、管路开裂。图3-25冷板冻裂示意(2)电化学腐蚀,导致管路或QI)C腐蚀。图3-26部件腐蚀示意(3)软管总成,内部宝塔接头长期受管路的挤压产生蠕变,倒刺结构向内变形,软管和宝塔之间密封能力下降,产生泄漏。(4)非金属材料,如管路密封垫、排气阀浮子与工艺冷媒长©期接触,出现水解开裂。图327材料水解开裂示意3 .冗余路由根据项目建设等级,冷板液冷系统冷源、冷却水泵、冷冻水泵、CDU>1.CM等设备需进行冗余配置。一二次侧液冷管网采用环网形式,但受限于机柜宽度尺寸,主管阀门建议采用单柜单阀门布置,当主管阀门发生故障时,导致两台机柜断液,无法满足单点故障维护要求,在后续管网设计时,需进行阀门小型化或其他应急措施,满足单点故障维护要求。4 .高成本相比空气冷却,冷板液冷CAPEX投资相对较高,对后续的应用规模有重要的影响:冷板组件、QDC.RCM.1.CM.CDU等因材料要求不锈钢或紫铜,成本较高,需要新材料或工艺进一步降低成本。由于需要保证材料兼容性、防腐抑菌和高效换热,所有部件均需要使用高性能、高耐腐蚀性和高导热性的材料,这些材料通常价格较高,直接导致液冷系统材料成本的增加。为确保系统的可靠密封,需要对液冷部件进行精密加工和组装,如1.CM的焊接、酸洗、钝化、拼装、测试等工艺,复杂的制造过程和精密工艺导致制造成本增加。5 .建设同期长冷板液冷数据中心涉及大量设备和工程管路,尤其是1.CM和RCM所在二次侧的无尘要求,需要反复冲洗:为防止金属离子析出,需要表面钝化处理,延长了相关建设周期。而用户侧,尤其是互联网用户,对快速交付的需求仍然存在,因此,有些集成商提出了诸如管路侦制,冷源模块化,整机柜交付、集装箱预集成等措施。6 .能耗问相比空气冷却,冷板液冷因较高效的散热,可以极大降低PUE。在实际运行中,冷板液冷机房的气液比,一二次侧供回液温度和温爰、冷通道温度要求、冷源方案等对PUE指标均有影响。为优化冷板液冷系统PUE,需寻求多种节能途径:(1)降低气液比,尽量使用更高效的液体冷却。(2)提高工艺冷媒供液温度,提升自然冷却时长。(3)提高丁二次侧供回液温差,降低系统流量;优化液冷系统流阻,降低循环泵扬程,降低泵功耗。(4)提升冷通道温度。对于服务器与存储设备用液冷部件冷板、连接系统、CDf等本身的设计、生产、测试和评价标准整体规定方面,目前已发布1项标准T/CESA1249.1-2023服务器及存储设备用液冷装置技术规范第1部分:冷板,另有3项标准正处于征求意见阶段:服务器及存储设备用液冷装置技术规范第2部分:连接系统,服务器及存储设备用液冷装置技术规范第3部分:冷量分配单元,服务器及存储设备用液冷装置技术规范第4部分:监控系统。国外标准方面,ASHRAETC9.9定义了供给冷量分配单元的一次侧冷却水的温度等级,从W17到W+共6个温度等级(表3-5)»综上,从全球范围看,信息技术领域冷板液冷的标准较少,在通用市场暂未形成大规模影响»2.标准化IB求基于不同类型业务场景,预计未来2-3年CPU类型业务液冷单机柜典型功耗在20-30kW,GPU类型业务液冷单机柜典型功耗在40-50kW范围。从快交付、低成本等基本诉求出发,宜考虑冷板液冷数据中心关键组件、系统架构标准化需求。从产品适配角度,通过推动标准化产品的普及,提升用户冷板式液冷产品的可选性、兼容性等。(1)组件标准化冷板液冷系统的关键组件,包括冷板组件、QDC、CDU及连接管路(RCM、1.CM和软管等)。这些关键组件的标准化,最宜接的收益是降低成本,间接加速冷板液冷系统的推广及应用。从冷板组件标准化角度看,考虑服务器热设计功率随技术发展在不停演进,但不同业务类型散热功耗相对偏差不大。如单节点CPU类型服务器液冷散热功耗预计在IkN范围;单节点GPU类型服务器液冷散热功耗预计在IOkW范围。对于冷板组件,宜考虑不同代际散热需求,进行可选标准化散热功率设计,以供服务器节点选择。QDC宜设立、推行适合国内应用场兔的行业标准而非企业标准,以便降低不同OEM(或ODV)服务器替换、更新等场景液冷设施接驳的差异化需求。如,虽然OCP推行了QDC标准的快速接头,但其快速接头与RCM的连接底座螺纹型式,还是以美标螺纹为主。针对国内的配套产业链,还是应遵从国标要求为主。对于连接软管,因RCM的布置需与I/O,PDU等综含考量,服务器级软管,应推出可选梯次长度,供用户选择,而小定制长度。CDU作为冷板液冷的核心组件,从中长期看,柜式CDU的需求量较大概率会超过机架式CDU。针对柜式CDU,更适宜考虑在不同液冷分级(见表3-5)下,不同颗粒度规模(如典型400kW.600kW.800kW.100OkW或更高容量)的标准化产品。产业链设备厂商可考虑以某种液冷分级(如谭32,见表3-5)、满足可在线冗余需求的-W基础上,设计基于标准化配置的CDf设备,进而量化设备尺寸、容.量等参数。同时,保留一定容量幅度范围的换热能力,设备的容量兼容能力可有效提升,提高设备产品力。从用户角度,降低CDU差异化选择,为冷板液冷系统标准化模型创造良好基础。(2)系统标准化冷板液冷单系统容量是实现楼栋级液冷乃至更高规模液冷集群的基础。从冷板液冷单系统容量标准化需求角度看,更适宜以数据中心常用变压器容量(如200OkVA、250OkvA等)为基本模数,推演基于不同CDu颗粒度规模,在不同液冷分级下(以W32为基准)标准的一、二次侧产品解决方案。考虑到一次侧及冷源的经济性,可在变压器基本模数的基础上,以2倍或3倍乃至更高倍数为框架,整体搭建室外冷源及一次侧管路系统。CDU及二次侧管路应整体考虑可在线维护等冗余要求。(二)工程标准化设计!求1.二次儡路材质与工艺冷媒接触的管路材质应具有良好的兼容性,1.CM及阀门,法兰等管件通常采用SUS304不锈钢及以上材质,出厂前应采取酸洗、钝化、清洗、烘干处理。需要焊接处理的不锈钢宜采用低碳(0.03%)以避免敏化甚至腐蚀,焊接后需要使用酸洗钝化的方式去除热着色氧化物。密封材料应满足RoHS要求。密封材质应具备良好的密封性和抗老化能力;与工艺冷媒接触的材料表面不易发生腐蚀,禁止使用生料带等易腐易堵的密封方式及辅料。执行标准及承压管路管径及壁厚选型在满足系统流量分配的前提下,同时应遵循DINII850标准要求,管路承压能力不小于1.OMPae表面阻发度要求管路内壁表面光洁度高,金属特性稳定,表面的粗糙度(Ra)不大于0.6nio化管路要求采用工厂预制化方式,在工厂内完成所有管道模组的焊接加工、管道清洗、密闭性测试、洁净度测试、烘干等工作,宜氮气保压运输至工程现场进行组装,现场只允许进行管道组装及相关清洗工作,不建议在机房内动火焊接。管道清洗完之后电导率应不大于10scm,且水体无杂质、表面无油污。密闭性测试可采用水压密封试验(建议10-12bar,保持824h)或者气压密封试验(建议28bar,保持510min)。/行快拆连接。机柜分支关断阀、主管路分段阀以及主分支关断阀(蝶阀、球阀、分段法兰)阀体、阀板、阀球材质通常均采用SUS304不锈钢或以上材质,承压N1.OMPa。安装方式应采用焊接、法兰、卡箍连接,端面密封。卡箍连接应采用高压卡箍,禁止采用单饰钉轻型卡箍。不允许螺纹安装。工艺要求不锈钢管路安装前应提前进行安装环境管理,安装空间应处于洁净状态。不锈钢管路在安装运输过程中应小心轻放,并注意对非不锈钢金属材质EPDM、PTFE等柔性材质进行保护。不锈钢预制管路安装过程应按布置图纸编号进行分段安装,防尘包装不得提前拆除。不锈钢管路的安装支架和固定管卡宜采用不锈钢材质,当安装支架和固定管卡用非不锈钢的金属材质时,需采用EPDM或PTFE来对管路与支架之间进行有效隔离。不锈钢管路管件安装前应提前进行检查,管件无损伤且干净无灰尘。连接件(法兰或卡盘)连接应与管道同心,并应保证螺栓自由穿入。法兰螺栓孔应跨中安装。法兰间应保持平行,其偏差建议不°动阀件连接处)采用法兰或卡箍连接,互锁型球阀、H动排气阀、传感器等附件采用螺纹连接,连接处均采用O型圈或组合密封圈密封,密封圈材质采用EPDM或FrFE材质。本项目在生产测试车间搭建与本项目单个环网1:1比例的测试平台。测试平台接入CDU及冷源设备,按照试验设计在管网中布置已完成权威检测机构标定的流量计、压差传感器、温度传感器等检测设备。进行均流测试时,采用“假负载”模拟现场机柜。图4-2为厂验测试现场照片。图4-2厂验测试现场2 .门某智算中心创新实验室面向能源、材料、半导体领域高速增长的研发需求与大规模科学计算需求,于2022年建成国内高校领先水平的智算中心,以实现多领域原创性突破与智能化转型。图4-3东部(厦门)某智算中心IT规模:80OkW单机柜功率:50kW,100%冷板液冷CDU颗粒度:400kW,2+1备份一次侧进出水温度:3545*C二次侧供回液温度:40/5(TC二次侧冷却介质:去离子水室外冷源:70Ok甲闭式冷却塔,1+1备份设计年均PUE:<1.2特点:模块化设计,工厂预制3 .山西某大规模冷板液冷效疝中心秦淮数据MW规模部署的国内第一个冷板液冷数据中心,于2023年7月建成并完成测试交付。图4-4华北大型冷板液冷数据中心现场CDU和干冷罂实景机柜功率:20+kW,气液比:1:1一次侧进出水温度:35/42二次侧供回液温度:40/45C一次侧冷却介质:45%乙二醇溶液二次侧冷却介质:去离子水CDU规模:350kW,1+1备份冷源方式:干冷器,5+1特点:一次侧大环网,二次侧CDU小环网高可靠性4 .广州科云数据中心广州科公数据中心作为行业先锋,早在2019年率先试点实践了冷板液冷技术。关常见接液材料的描述,该列表并不是对所述材料相容性的承诺,具体材料选择或供应商切换时,仍然需要通过测试来确定。(一)传统材料液冷系统接液材料要与工艺冷媒保持良好的相容性,不会产生腐蚀、劣化及其他理化性质的改变;具备良好的机械性能、环境适应性,且符合环保要求。SHRE建议管路、接头、RCM1.CM等金屈部分使用紫铜、锌含量低于15%无铅黄铜、3011.或者3161.不锈钢,非金属部分使用EBDM51e目前,国内液冷1.CM、RCM广泛使用的是卫生级不锈钢管材。(二)国外推荐材料OCP在2022年10月的峰会上,由PhilipYu博士(纳尔科)和SeanBarlett(Meta)牵头的项目中,明确给出了二次侧接液材料的清单,并给出了最高水温不超过66°C的适用条件,并把材料大致分为以下两类:1 .金属与金属合金类表5-1OCP金属与金属合金类材料推荐材料名称明细说明紫铜CopperCDA110:299.95%铜W.002银CD1020:>99.95%铜+0.002%银(UNSC11000)2 .合成糊段、斑料利其它材料类表5-2OCP合成橡胶、哒料和其它材料类推荐材料4称明细说明EPDM三元乙丙橡胶Ethylonepropylenedienemonomer型氨橡胶VitonA亚氟乙烯六氨丙烯VinylidenefluoridehexaflUoropropyleneGF型氟橡胶VitonGF亚氨乙烯六藏丙烯四氟乙烯VinylidenefluoridehexafluoropropyIeneIetrafluoroethyleneCTP型氟橡胶VitonETP乙烯Ethylcnex四氯乙烯t«?trafluoroethylene(TFE).全城甲基乙烯基德Perfluoroniclhylvinylether(PMVE)lEP全氨乙丙烯聚合物FIUorinatQdethylenepropylenepolymerPTFE1Teflonw聚四辄乙烯聚合物Polytetrafluorinatedcthylencpolymer特氟龙密封剂和波纹软管PP聚丙烯PolypropylenePPR聚丙烯无规共聚物PolypropyleneRandomCopolymerPVDF聚偏二氟乙烯或聚偏二氧化乙烯PolyvinylidenefluorideorpolyvinylidenedifluorideEpR乙烯丙烯橡胶EthylenepropylenerubberPE.聚乙烯Polyethylene.包括挤压交联聚乙烯(PEX)s超高分子量聚乙烯可燃性UI.94/94-HBV-O94-HBV-OIIBDIM102/B2/B2/电性能比体积电阻VDEO303Ccm>1016>1013>1016>1018/比表面电阻VDE0303Q>1013>1012>1013>1016/相对介质常数,IMHzDIN534832.37.252.3/介电常数VDE0303kVun7022752.03/其它T1生无毒EEC90/128/是是是是是食品及药物总同/f/是是是是是紫外稳定剂/Z/无有无/颜色/KAI.7032灰色本色RA1.7032灰色臼色透明黑、橙等注:数据来源于数据AgrU产品手册。3 .宙封件材料非金属管路密封件推荐三元乙丙橡胶(EPDM)聚四氟乙烯(PTFE)及氟橡胶(FPM)三元乙丙糊及(EPDM)EPDM是乙烯、丙烯和少量的.共辄二烯燃的共聚物,EPDM密度通常在0.85-1.20gA之间,硬度通常在40-90ShoreA之间,拉伸强度通常在10-20MPa之间,断裂伸长率通常在200600%之间。耐老化性:EPDM具有优异的耐天候、耐臭氧、耐热、耐酸碱、耐水蒸汽、颜色楞定性、电性能、充油性及常温流动性,在通用橡胶中其老化性能最好。适合环境温度-5080,在120C下可长期使用。EPDM橡胶中的臭氧浓度在50PPHM和30%拉伸的条件下,150h不破裂。电绝缘性能:EPDv具有优异的电绝缘和耐电晕性能。其体积电阻率1016-cm,击穿电压3040MVm。介电常数也较低,特别是浸水后其电性能变化也很小,介电常数(IkHZ,20C)2.27。化学特性:EPDM优越的抗侵蚀性能,可耐氟里昂及多种制冷剂,不适用于矿物油,是应用较广的密封材料。聚四乙馋(PTFE)PTFE由四氟乙烯经聚合而成的高分子化合物,PTFE具有很低的摩擦系数及不粘性,摩擦系数在已知固体材料中是最低的,耐强酸、强碱、强氧化剂,即使温度较高,也不会发生作用.PTFE不吸水、不受氧气、紫外线作用、耐候性好。主要应用于大管径不锈钢管连接密封,适合环境温度-40100C0*Mt(FKM)FKM是由含氟单体共聚而成的有机弹性体。其特点耐高温,耐酸碱,耐油性,抗辐射、耐高真空性能好。缺点是加工性差,价格昂货耐寒性差,弹性透气性较低。适合环境温度1022(C°宙封设计非金属管道法兰管道与管道之间宜采用法兰连接,法兰应具有较好的密封面,选用适当的垫片及螺栓,使管路耐压达到设计要求。支撑件设计<1)管道应适当加以支撑,在管道与支架之间应放置厚度不小于3mm的衬垫。(2)管道的支撑、导向和固定方式应防止对管道的损坏。<3)支撑件宜设置在荷载集中处,管道上有过大荷载的阀门或管道附件应设支撑。<4)管道在架空敷设时不得利用管道自身刚度作为支撑结构。(5)可能产生振动的管道,应设置减振措施。布(1)管道的布置应方便检修及更换管道组件。<2)管路布置时,应尽量使管道的膨胀收缩和其它原因产生的位移引起的应力达到最小值,以防止发生泄露、变形、破坏。(3)管路布置不应存在气袋,水袋和盲肠(图5T),如无法避免应必须设置措施。(4)管路设置足够的柔性或有效的补偿措施。(5)当管道沿建筑物或与其它管道平行、交叉时,其净距不忘图5-16动力变压器一次侧冷却塔规格:4*5000kW1500t.图5-17冷却塔(2)Magmasupercomputer项目地点:美国加利佛尼亚州劳伦斯利弗莫尔国家实验室(1.awrence1.ivcrmoreNational1.abs»简称1.1.M,)投产时间:2020年初服务器:IntelServerSystemS9200WK,搭载IntelXeonPlatinum9242处理器(760个计算节点)和IntelXeonPlatinum8000处理器(12个基础设施节点),用于模拟2D和3D物理系统(流体动力学、材料科学、分子动力学等)的参数研究。续进行液冷,而有漏气的服务器可以利用空气冷却获得适度的冷却(如果冷板带有空气冷却翅片的话)。在回液软管一侧,文丘里声波限流器将吸入的气流限制在大约101.min,这是因为在文丘里声波限流器中最狭窄的通道处气流不能再被压缩,因而流量受到限制。图67负压系统服务器进出分支软管(2)无It关新闷和QDC:负压意味着可以在液冷系统运行的同时进行水管连接,且不会发生泄漏,并保持系统正常的冷却功能。因此,在工艺冷媒水管与机柜连接处不需要安装关断阀和QDC。(3)服务护更备心:可以利用负压排空服务器内部冷板系统的水:当需要排空时,略微松开连接器使工艺冷媒自动从服务器中排出。服务器未连接到外部液冷系统时其内部冷却系统处于无水状态。对机柜中任何服务器进行排空操作后,即可将此服务器从机架上移出。(4)无活真空泵技术:独有专利技术,利用气液分离器分高出的工艺冷媒密封,水封不会产生磨损。图6-8项目冗余方式示意图(二)相变冷板冷却技术如第六章第(一)节所说,筑化物作为工艺冷媒会有效提升冷板液冷系统可靠性(如泄漏为气态且不导电,不会危及服务器安全),同时,由于部分氟化物沸点较低,在冷板内吸收热量后蒸发汽化,大大提升冷板的散热能力,该技术可称为冷板液冷相变冷却技术。关于嬴化物的选择,根据英伟达的资料,包括R134a、R513.R515B,R471A、R1233zd>R1234yf.3MNovec系列HFE-7000均可使用。根据介绍,R134a用于相变冷板方式,可解决2.5kWGPU,175kWRack的散热,最大可支持8W(cm2C)的解热能力。关于该方案,有很多不同的演化:1.力热方案该方案可支持100kw/柜的超高功率密度需求,PUE可低至1.07,该方案无需泵输配,利用热管原理,仅靠温度差驱动氟化物循环。无运动部件,且氟化物免维护,可靠性更高,极适合边缘计算场景。图6-9SEGUENTE电力热管方案示意图2.动力熬管方案英伟达(图6T0)和国内厂商也有带制冷剂泵驱动的动力热管解决方案出现,这种方式可以使散热器与机柜的相对位置更加灵活,甚至可以支持多机柜的多联系统。但是目前都属于预研阶段,商业化程度还相对较低。图6-10动力热管相变冷板液冷示意图(三)冷板液冷,液混勺技术关于空气冷却和液冷的混合应用也越来越被广泛关注,成为未来新的热点之一。混合的原因大多出于以下几种情况:(1)老旧机房改造,希望原有空气冷却空调设备可以继续利用:(2)新建机房管综和地板下空间有限,冷板液冷的一二次管路占据空间,无法再进行冷冻水系统水管布管:(3)安装室外机(包括液冷的干冷器/冷却塔,空气冷却的冷凝器/冷却塔等)的空间位置受限,希望可以将空气冷却和液冷的室外机进行合并,可弹性适配不同气液比场景。基于以上三种情况,本