中國(guó)儲(chǔ)能網(wǎng)訊：在全球金融科技領(lǐng)域，中國(guó)金融機(jī)構(gòu)正以驚人的速度崛起，不僅在大模型專利創(chuàng)新上占據(jù)領(lǐng)先地位，更在智能金融服務(wù)的實(shí)際應(yīng)用中展現(xiàn)出強(qiáng)大的實(shí)力。
這一趨勢(shì)的背后，是算力需求的爆炸性增長(zhǎng)，以及對(duì)高效、可靠、節(jié)能的數(shù)據(jù)中心基礎(chǔ)設(shè)施的迫切需求。
近日，全球知名科技刊物《麻省理工技術(shù)評(píng)論》（MIT Technology Review）發(fā)布相關(guān)報(bào)告，“全球金融機(jī)構(gòu)大模型領(lǐng)域?qū)＠麆?chuàng)新排行榜”揭開面紗。在全球金融機(jī)構(gòu)大模型專利創(chuàng)新領(lǐng)域，中國(guó)申請(qǐng)公開量達(dá)1909件，占比超75%。更令人欣喜的是，在這份榜單的TOP10，在全球頂尖的金融機(jī)構(gòu)列表中，中國(guó)強(qiáng)勢(shì)占據(jù)8席，展現(xiàn)出泱泱大國(guó)在全球科技領(lǐng)域的熠煜之姿。
螞蟻集團(tuán)、平安集團(tuán)、工商銀行、建設(shè)銀行、中國(guó)銀行、馬上消費(fèi)金融、微眾銀行、農(nóng)業(yè)銀行……中國(guó)領(lǐng)先的金融機(jī)構(gòu)于科技制高點(diǎn)布局的各類金融大模型，正如同浩瀚宇宙中點(diǎn)綴著的繁星，每一顆都閃爍著智慧的光芒。
同樣浩瀚的，是高速流轉(zhuǎn)于服務(wù)器之間的數(shù)據(jù)流量，更是全球秩序及格局博弈下中國(guó)科技自強(qiáng)不息的奮進(jìn)力量。
據(jù)IDC數(shù)據(jù)，2023年下半年中國(guó)智算服務(wù)市場(chǎng)整體規(guī)模達(dá)114.1億元，同比增長(zhǎng)85.8%；全年來(lái)看，這一數(shù)據(jù)可達(dá)194.2億元，同比增長(zhǎng)72.5%。據(jù)預(yù)測(cè)，2022-2027年期間，我國(guó)智能算力規(guī)模的年均復(fù)合增長(zhǎng)率將達(dá)到33.9%，遠(yuǎn)高于通用算力16.6%的增速。
在金融行業(yè)，央行2022年1月發(fā)布的《金融科技發(fā)展規(guī)劃（2022-2025 年）》即明確提出，“要抓住全球人工智能發(fā)展新機(jī)遇，以人為本全面推進(jìn)智能技術(shù)在金融領(lǐng)域深化應(yīng)用”。
我們看到，圓融詼諧的機(jī)器人早已成為智慧網(wǎng)點(diǎn)的基本標(biāo)配，西裝革履的數(shù)字員工在屏幕上對(duì)答如流，智能客服、智能辦公、智能研發(fā)、智能投研等多個(gè)業(yè)務(wù)場(chǎng)景上均有著大模型在金融業(yè)的合理探索及應(yīng)用，金融機(jī)構(gòu)的服務(wù)半徑得以迅速擴(kuò)大。作為新質(zhì)生產(chǎn)力的典型縮影，金融智算在金融科技的強(qiáng)催化下登上時(shí)代舞臺(tái)，正翩然起舞。
再來(lái)看看金融智算在一線的公開戰(zhàn)績(jī)。
據(jù)工商銀行2023年年報(bào)披露,其首個(gè)基于大模型的網(wǎng)點(diǎn)員工智能助手上線,提升網(wǎng)點(diǎn)效能,全年運(yùn)營(yíng)領(lǐng)域智能處理業(yè)務(wù)量3.2億筆,比上年增長(zhǎng)14%；農(nóng)業(yè)銀行ChatABC在智能問(wèn)答場(chǎng)景已提供超過(guò)200萬(wàn)次問(wèn)答服務(wù)，在輔助編碼場(chǎng)景已編寫超過(guò)8萬(wàn)行代碼投入生產(chǎn)應(yīng)用；建設(shè)銀行智能客服工單生成每單平均節(jié)約客服工作時(shí)間15-20秒，可用率達(dá)82%，一致性達(dá)80%。
“方舟計(jì)劃”、倉(cāng)頡、軒轅、天鏡……一個(gè)個(gè)上古神學(xué)中耳熟能詳?shù)拿?，身披大模型的“外衣”從遙遠(yuǎn)的神話走到了現(xiàn)實(shí)，成為金融垂直領(lǐng)域數(shù)字化轉(zhuǎn)型的關(guān)鍵力量，推動(dòng)探索虛擬現(xiàn)實(shí)與AIGC（人工智能）融合發(fā)展邁向新高度。
我們總結(jié)了現(xiàn)階段各大金融機(jī)構(gòu)在大模型應(yīng)用上的情況如下表，可以看出，頭部金融機(jī)構(gòu)在大模型各場(chǎng)景上已有較多投入和應(yīng)用，他們依托于自有數(shù)據(jù)加速訓(xùn)練著適合自己的大模型。
同時(shí)，部分中等規(guī)模的金融機(jī)構(gòu)，如城商行農(nóng)商行等，也積極擁抱大模型，或采購(gòu)GPU服務(wù)器部署開源大模型用于內(nèi)部訓(xùn)練，或依托于大模型公司的算力能力快速應(yīng)用落地相關(guān)服務(wù)場(chǎng)景。
總而言之，金融行業(yè)在大模型上的研究和布局上奮力向前，不斷有金融機(jī)構(gòu)加大投入力度。
前文提到，IDC預(yù)測(cè)近年來(lái)我國(guó)智算規(guī)模的年均復(fù)合增長(zhǎng)率將遠(yuǎn)高于通算，與之相應(yīng)的即是算力需求飛速增長(zhǎng)與數(shù)據(jù)中心能耗急劇攀升沖突之下造成的“算力鴻溝”。
近日，華泰證券出具的一份研報(bào)引用了麥肯錫的數(shù)據(jù)——在AI大模型相關(guān)算力需求的快速增加推動(dòng)下，以能耗衡量的全球服務(wù)器規(guī)模將從2024年的70GW增長(zhǎng)至2030年的390GW，年均復(fù)合增長(zhǎng)率高達(dá)33%。研報(bào)同時(shí)指出，隨著AI算力需求的持續(xù)增長(zhǎng)，2030年全球數(shù)據(jù)中心用電量規(guī)模將達(dá)到約2.2萬(wàn)億度電，是2022年的3.6倍。
這一說(shuō)法在金融行業(yè)也得到驗(yàn)證。
行業(yè)資深人士透露，過(guò)去10年，基于低負(fù)載及高冗余的特性，一貫以來(lái)將業(yè)務(wù)連續(xù)性視為“命根子”的金融數(shù)據(jù)中心的PUE普遍都大于1.5，“這意味著IT設(shè)備每消耗1度電，就有額外的0.5度電用于散熱等其他用途”。
而隨著百億級(jí)、千億級(jí)金融AI大模型的孵化，過(guò)往老舊機(jī)房確已難堪負(fù)荷，這一條“算力鴻溝”，在AI+金融的時(shí)代背景下顯得愈發(fā)淵深難測(cè)。
跨越這條鴻溝，一方面需應(yīng)對(duì)全球氣候系統(tǒng)變暖趨勢(shì)下數(shù)據(jù)中心面臨的嚴(yán)峻“烤”驗(yàn)，一方面需應(yīng)對(duì)數(shù)據(jù)中心各部件、整機(jī)的高密功耗帶來(lái)的散熱剛需，共同推動(dòng)金融智算基礎(chǔ)設(shè)施加快建設(shè)步伐。
現(xiàn)階段，我國(guó)數(shù)據(jù)中心的散熱方式仍以風(fēng)冷為主，以高可靠、高安全著稱的金融數(shù)據(jù)中心尤是。我們需注意到，部分用戶采購(gòu)風(fēng)冷GPU服務(wù)器后，由于單臺(tái)設(shè)備功率高達(dá)6-10.5kW，因此在現(xiàn)有機(jī)房中，單機(jī)柜只能放置1~2臺(tái)GPU服務(wù)器。此方案可以暫時(shí)滿足GPU服務(wù)器的散熱需求，但是綜合來(lái)看，風(fēng)冷散熱模式下，GPU處于較高運(yùn)行溫度下，也會(huì)導(dǎo)致運(yùn)行速度減緩、器件提前老化的情況，此時(shí)昂貴的GPU發(fā)揮不出其極致的算力，生產(chǎn)力打折，著實(shí)可惜。
在算力激增及高密高熱的雙重推動(dòng)下，液冷成為智算數(shù)據(jù)中心主流的溫控方式。據(jù)財(cái)信證券研報(bào)中引用的行業(yè)數(shù)據(jù)顯示，2025-2028年液冷技術(shù)的滲透率預(yù)計(jì)有望達(dá)到30%。
液冷，是一種采用液體來(lái)進(jìn)行電子設(shè)備冷卻的散熱技術(shù)，可顯著提高數(shù)據(jù)中心的散熱效率。目前，液冷技術(shù)主要包括冷板式、浸沒式和噴淋式三種類型，并以前兩者為應(yīng)用主流。
根據(jù)行業(yè)研報(bào)，以華東地區(qū)數(shù)據(jù)中心建設(shè)情況為例，基于一定的測(cè)算前提條件下，冷板式液冷方案的TCO甚至Capex已經(jīng)低于風(fēng)冷，浸沒式液冷方案的TCO也將在運(yùn)行五年左右之后出現(xiàn)低于風(fēng)冷方案的拐點(diǎn)。
囿于成本的緣故，現(xiàn)階段冷板式液冷相較浸沒式液冷而言，技術(shù)更為成熟、應(yīng)用更為廣泛，在改造及建設(shè)成本，安全可靠性，后期運(yùn)營(yíng)維護(hù)方面均具備顯著優(yōu)勢(shì)。按照服務(wù)器出貨量口徑統(tǒng)計(jì)，2023H1我國(guó)冷板式液冷服務(wù)器比例為90%左右，浸沒式液冷滲透率為10%。
過(guò)去幾年，算力設(shè)備廠商一站式整體交付算力設(shè)備+液冷基礎(chǔ)設(shè)施，優(yōu)勢(shì)是交叉配合界面少、整體交付速度快、后期運(yùn)維一家負(fù)責(zé)，但算力設(shè)備與液冷基礎(chǔ)設(shè)施強(qiáng)耦合后，劣勢(shì)也很明顯：
① 二期算力擴(kuò)容時(shí)，較難兼容其他品牌的算力設(shè)備，甚至是無(wú)法兼容；
② 算力設(shè)備廠商集成的液冷基礎(chǔ)設(shè)施，在系統(tǒng)冗余性、在線維護(hù)性、服務(wù)能力上較難達(dá)到用戶需求；
③ 液冷基礎(chǔ)設(shè)施溢價(jià)高，成本甚至超過(guò)30萬(wàn)元/柜，遠(yuǎn)高于解耦型冷板式液冷。
如同所有居于供給側(cè)、在AI+金融市場(chǎng)鉆研鏖戰(zhàn)的科技廠商一般，科華數(shù)據(jù)也秉持著行業(yè)領(lǐng)先者的責(zé)任感，乘著這股浩蕩東風(fēng)，推出「解耦型冷板式液冷數(shù)據(jù)中心解決方案」，致力于共同助力金融機(jī)構(gòu)釋放算力潛能，為金融智算筑建堅(jiān)實(shí)底座。
經(jīng)過(guò)充分的市場(chǎng)調(diào)研和案例應(yīng)用，科華數(shù)據(jù)冷板式液冷數(shù)據(jù)中心解決方案凝聚了「6大優(yōu)勢(shì)」。
01 整體優(yōu)化架構(gòu)，服務(wù)器全解耦，可兼容多品牌算力設(shè)備，分期建設(shè)無(wú)憂
科華數(shù)據(jù)冷板式液冷解決方案，可解耦國(guó)內(nèi)主流品牌液冷算力服務(wù)器，解耦點(diǎn)在液冷服務(wù)器側(cè)或液冷整機(jī)柜側(cè)，目前已交付多個(gè)項(xiàng)目，并安全穩(wěn)定運(yùn)行，實(shí)現(xiàn)了客戶對(duì)于液冷數(shù)據(jù)中心兼容解耦的部署架構(gòu)。
02 高密智算液冷POD解決方案，整系統(tǒng)可靠驗(yàn)證，現(xiàn)場(chǎng)高質(zhì)量快速交付
基于豐富的項(xiàng)目經(jīng)驗(yàn)，實(shí)現(xiàn)了建設(shè)方案、系統(tǒng)架構(gòu)、核心產(chǎn)品的標(biāo)準(zhǔn)化，并推出了一站式交付的液冷算力POD解決方案，既優(yōu)化了方案論證、產(chǎn)品選型階段的復(fù)雜工作，又提升了產(chǎn)品質(zhì)量、交付速度、確保系統(tǒng)穩(wěn)定運(yùn)行，維護(hù)管理更加簡(jiǎn)便易用，運(yùn)營(yíng)效率得以大幅提升。
03 核心產(chǎn)品優(yōu)異，CDU循環(huán)泵雙泵冗余，水泵、過(guò)濾器等不停機(jī)更換維護(hù)
作為液冷系統(tǒng)中的核心產(chǎn)品，科華數(shù)據(jù)液冷CDU采用N+1冗余架構(gòu)設(shè)計(jì)，并可放置在精密空調(diào)間，確保一次側(cè)冷卻水不進(jìn)入算力機(jī)房?jī)?nèi)。CDU內(nèi)的循環(huán)水泵采用節(jié)能型變頻雙泵冗余設(shè)計(jì)，單臺(tái)水泵即可滿足100%散熱需求，水泵和過(guò)濾器均按滿足在線維護(hù)要求，實(shí)現(xiàn)不停機(jī)即可更換維護(hù)。
04 預(yù)制化生產(chǎn)制造，工程產(chǎn)品化，確保交付質(zhì)量，又好又快
基于智能微模塊的豐富經(jīng)驗(yàn)，科華數(shù)據(jù)液冷系統(tǒng)將預(yù)制化底座、二次側(cè)管路系統(tǒng)、機(jī)柜（含manifold）、通道封閉、智能小母線、風(fēng)補(bǔ)列間空調(diào)、液冷微模塊監(jiān)測(cè)系統(tǒng)、一次側(cè)水力模塊等進(jìn)行預(yù)制化設(shè)計(jì)生產(chǎn)，現(xiàn)場(chǎng)快速交付。
05 交付安全穩(wěn)定，基于正向設(shè)計(jì)理念，通過(guò)BIM+CFD仿真模擬及液冷測(cè)試平臺(tái)嚴(yán)格驗(yàn)證
項(xiàng)目正式進(jìn)場(chǎng)后，科華基于BIM三維建模技術(shù)，實(shí)現(xiàn)1:1數(shù)字孿生，模擬每一個(gè)設(shè)備、每一段管路和閥門的位置，做到所設(shè)即所得，減少現(xiàn)場(chǎng)管路交叉干涉，確保交付質(zhì)量和速度。通過(guò)CFD流體仿真技術(shù)，模擬管路流體路徑和機(jī)房?jī)?nèi)的氣流組織，不斷優(yōu)化設(shè)備布局和設(shè)置參數(shù)，確保智算機(jī)房高質(zhì)量運(yùn)行。同時(shí)，每一套液冷系統(tǒng)出廠前，均會(huì)在科華液冷整系統(tǒng)測(cè)試平臺(tái)中進(jìn)行測(cè)試，驗(yàn)證可靠性和功能參數(shù)，確保方案質(zhì)量和系統(tǒng)長(zhǎng)期穩(wěn)定運(yùn)行。
06 項(xiàng)目經(jīng)驗(yàn)豐富，成功交付多個(gè)液冷數(shù)據(jù)中心項(xiàng)目，全生命周期服務(wù)值得用戶信賴
得益于高效散熱、節(jié)能減排、安全可靠等優(yōu)勢(shì)，科華冷板式液冷案例覆蓋了通信、互聯(lián)網(wǎng)、高校、金融等多個(gè)行業(yè)用戶，如河北承德智算中心、中國(guó)移動(dòng)蘇州數(shù)據(jù)中心、廈門大學(xué)嘉庚智算中心等。
科華數(shù)據(jù)冷板式液冷解決方案可囊括從通用算力服務(wù)器20kW/柜到智算算力服務(wù)器高密度50kW/柜，甚至科研場(chǎng)景的70~120kW/柜，為各行業(yè)高密度智算中心打造安全可靠、綠色低碳的液冷數(shù)據(jù)中心，賦能千行百業(yè)。在推動(dòng)新技術(shù)發(fā)展的同時(shí)，科華數(shù)據(jù)也不斷優(yōu)化整體服務(wù)流程，使每一次交付都得到客戶的高度認(rèn)可。
如，于「通信行業(yè)長(zhǎng)三角地區(qū)重要液冷數(shù)據(jù)中心項(xiàng)目」上，科華數(shù)據(jù)冷板式液冷解決方案助力項(xiàng)目運(yùn)行指標(biāo)大幅提升——
丨散熱能耗降低超50%
丨PUE降至1.2
丨節(jié)約空調(diào)電費(fèi)超50%
丨提高服務(wù)器算力能力5%-10%
從通信，到金融，行業(yè)天然自帶壁壘又何妨，高可靠的產(chǎn)品技術(shù)是其互通的媒介。
當(dāng)金融機(jī)構(gòu)行至全面擁抱大模型、戰(zhàn)略布局AI算力的風(fēng)口，技術(shù)先行者已在此處，等著共同攀越那崢嶸山崗。
結(jié)語(yǔ)：
人工智能先驅(qū)之一，穆斯塔法·蘇萊曼在其出版的《大浪將至》中提到，“技術(shù)是一種創(chuàng)新集群，即將到來(lái)的浪潮是像寒武紀(jì)大爆發(fā)一樣的進(jìn)化爆發(fā)，將涌現(xiàn)出成千上萬(wàn)種新應(yīng)用，這些技術(shù)中的每一項(xiàng)都與其他技術(shù)相互交叉、相互加強(qiáng)、相互完善?！?
AI賦能智算行業(yè)蓬勃發(fā)展，創(chuàng)新技術(shù)在金融行業(yè)的各類場(chǎng)景中不斷應(yīng)用、驗(yàn)證、迭代，算力基座也正朝著更可靠、更可用、更節(jié)能、更智慧的方向演進(jìn)。
久經(jīng)檢驗(yàn)的金融數(shù)字化轉(zhuǎn)型合作伙伴——科華數(shù)據(jù)，正融合30余年電力電子核心技術(shù)及十?dāng)?shù)年數(shù)據(jù)中心建設(shè)運(yùn)維經(jīng)驗(yàn)，深刻洞察金融應(yīng)用側(cè)在新建及改造數(shù)據(jù)中心的能耗痛點(diǎn)，以更可靠、更解耦的液冷解決方案，助力更多金融機(jī)構(gòu)實(shí)現(xiàn)更高的算力密度、節(jié)省更多的機(jī)柜空間，推動(dòng)底層算力潛能的進(jìn)一步釋放。
