- 跨邊界·遇新知 | 科華云集團(tuán)行業(yè)精探系列活動(dòng)第二期——智能制造專場(chǎng)
- 讓愛傳遞,145名老區(qū)學(xué)子獲科華育才獎(jiǎng)學(xué)金
- 科華數(shù)據(jù):與金融大模型激情共舞
- 科華ups電源輸入電壓范圍與ups性能關(guān)系?
聯(lián)系人: 袁經(jīng)理
手機(jī): 400-811-5690
電話: 400-811-5690
郵箱: sksups02@126.com
地址: 上海市嘉定區(qū)惠平路801號(hào)民成大廈1號(hào)樓708室
科華數(shù)據(jù):與金融大模型激情共舞
據(jù)IDC數(shù)據(jù),2023年下半年中國(guó)智算服務(wù)市場(chǎng)整體規(guī)模達(dá)114.1億元,同比增長(zhǎng)85.8%;全年來看,這一數(shù)據(jù)可達(dá)194.2億元,同比增長(zhǎng)72.5%。據(jù)預(yù)測(cè),2022-2027年期間,我國(guó)智能算力規(guī)模的年均復(fù)合增長(zhǎng)率將達(dá)到33.9%,遠(yuǎn)高于通用算力16.6%的增速。
在金融行業(yè),央行2022年1月發(fā)布的《金融科技發(fā)展規(guī)劃(2022-2025 年)》即明確提出,“要抓住全球人工智能發(fā)展新機(jī)遇,以人為本全面推進(jìn)智能技術(shù)在金融領(lǐng)域深化應(yīng)用”。
我們看到,圓融詼諧的機(jī)器人早已成為智慧網(wǎng)點(diǎn)的基本標(biāo)配,西裝革履的數(shù)字員工在屏幕上對(duì)答如流,智能客服、智能辦公、智能研發(fā)、智能投研等多個(gè)業(yè)務(wù)場(chǎng)景上均有著大模型在金融業(yè)的合理探索及應(yīng)用,金融機(jī)構(gòu)的服務(wù)半徑得以迅速擴(kuò)大。作為新質(zhì)生產(chǎn)力的典型縮影,金融智算在金融科技的強(qiáng)催化下登上時(shí)代舞臺(tái),正翩然起舞。
再來看看金融智算在一線的公開戰(zhàn)績(jī)。
據(jù)工商銀行2023年年報(bào)披露,其首個(gè)基于大模型的網(wǎng)點(diǎn)員工智能助手上線,提升網(wǎng)點(diǎn)效能,全年運(yùn)營(yíng)領(lǐng)域智能處理業(yè)務(wù)量3.2億筆,比上年增長(zhǎng)14%;農(nóng)業(yè)銀行ChatABC在智能問答場(chǎng)景已提供超過200萬次問答服務(wù),在輔助編碼場(chǎng)景已編寫超過8萬行代碼投入生產(chǎn)應(yīng)用;建設(shè)銀行智能客服工單生成每單平均節(jié)約客服工作時(shí)間15-20秒,可用率達(dá)82%,一致性達(dá)80%。
“方舟計(jì)劃”、倉(cāng)頡、軒轅、天鏡……一個(gè)個(gè)上古神學(xué)中耳熟能詳?shù)拿郑砼竽P偷摹巴庖隆睆倪b遠(yuǎn)的神話走到了現(xiàn)實(shí),成為金融垂直領(lǐng)域數(shù)字化轉(zhuǎn)型的關(guān)鍵力量,推動(dòng)探索虛擬現(xiàn)實(shí)與AIGC(人工智能)融合發(fā)展邁向新高度。
據(jù)不完全統(tǒng)計(jì),現(xiàn)階段各大金融機(jī)構(gòu)在大模型應(yīng)用上的情況如下表,可以看出,頭部金融機(jī)構(gòu)在大模型各場(chǎng)景上已有較多投入和應(yīng)用,他們依托于自有數(shù)據(jù)加速訓(xùn)練著適合自己的大模型。
同時(shí),部分中等規(guī)模的金融機(jī)構(gòu),如城商行農(nóng)商行等,也積極擁抱大模型,或采購(gòu)GPU服務(wù)器部署開源大模型用于內(nèi)部訓(xùn)練,或依托于大模型公司的算力能力快速應(yīng)用落地相關(guān)服務(wù)場(chǎng)景。
總而言之,金融行業(yè)在大模型上的研究和布局上奮力向前,不斷有金融機(jī)構(gòu)加大投入力度。
前文提到,IDC預(yù)測(cè)近年來我國(guó)智算規(guī)模的年均復(fù)合增長(zhǎng)率將遠(yuǎn)高于通算,與之相應(yīng)的即是算力需求飛速增長(zhǎng)與數(shù)據(jù)中心能耗急劇攀升沖突之下造成的“算力鴻溝”。
近日,華泰證券出具的一份研報(bào)引用了麥肯錫的數(shù)據(jù)——在AI大模型相關(guān)算力需求的快速增加推動(dòng)下,以能耗衡量的全球服務(wù)器規(guī)模將從2024年的70GW增長(zhǎng)至2030年的390GW,年均復(fù)合增長(zhǎng)率高達(dá)33%。研報(bào)同時(shí)指出,隨著AI算力需求的持續(xù)增長(zhǎng),2030年全球數(shù)據(jù)中心用電量規(guī)模將達(dá)到約2.2萬億度電,是2022年的3.6倍。
這一說法在金融行業(yè)也得到驗(yàn)證。
行業(yè)資深人士透露,過去10年,基于低負(fù)載及高冗余的特性,一貫以來將業(yè)務(wù)連續(xù)性視為“命根子”的金融數(shù)據(jù)中心的PUE普遍都大于1.5,“這意味著IT設(shè)備每消耗1度電,就有額外的0.5度電用于散熱等其他用途”。
而隨著百億級(jí)、千億級(jí)金融AI大模型的孵化,過往老舊機(jī)房確已難堪負(fù)荷,這一條“算力鴻溝”,在AI+金融的時(shí)代背景下顯得愈發(fā)淵深難測(cè)。
跨越這條鴻溝,一方面需應(yīng)對(duì)全球氣候系統(tǒng)變暖趨勢(shì)下數(shù)據(jù)中心面臨的嚴(yán)峻“烤”驗(yàn),一方面需應(yīng)對(duì)數(shù)據(jù)中心各部件、整機(jī)的高密功耗帶來的散熱剛需,共同推動(dòng)金融智算基礎(chǔ)設(shè)施加快建設(shè)步伐。
現(xiàn)階段,我國(guó)數(shù)據(jù)中心的散熱方式仍以風(fēng)冷為主,以高可靠、高安全著稱的金融數(shù)據(jù)中心尤是。我們需注意到,部分用戶采購(gòu)風(fēng)冷GPU服務(wù)器后,由于單臺(tái)設(shè)備功率高達(dá)6-10.5kW,因此在現(xiàn)有機(jī)房中,單機(jī)柜只能放置1~2臺(tái)GPU服務(wù)器。此方案可以暫時(shí)滿足GPU服務(wù)器的散熱需求,但是綜合來看,風(fēng)冷散熱模式下,GPU處于較高運(yùn)行溫度下,也會(huì)導(dǎo)致運(yùn)行速度減緩、器件提前老化的情況,此時(shí)昂貴的GPU發(fā)揮不出其極致的算力,生產(chǎn)力打折,著實(shí)可惜。
在算力激增及高密高熱的雙重推動(dòng)下,液冷成為智算數(shù)據(jù)中心主流的溫控方式。據(jù)財(cái)信證券研報(bào)中引用的行業(yè)數(shù)據(jù)顯示,2025-2028年液冷技術(shù)的滲透率預(yù)計(jì)有望達(dá)到30%。
液冷,是一種采用液體來進(jìn)行電子設(shè)備冷卻的散熱技術(shù),可顯著提高數(shù)據(jù)中心的散熱效率。目前,液冷技術(shù)主要包括冷板式、浸沒式和噴淋式三種類型,并以前兩者為應(yīng)用主流。
根據(jù)行業(yè)研報(bào),以華東地區(qū)數(shù)據(jù)中心建設(shè)情況為例,基于一定的測(cè)算前提條件下,冷板式液冷方案的TCO甚至Capex已經(jīng)低于風(fēng)冷,浸沒式液冷方案的TCO也將在運(yùn)行五年左右之后出現(xiàn)低于風(fēng)冷方案的拐點(diǎn)。
囿于成本的緣故,現(xiàn)階段冷板式液冷相較浸沒式液冷而言,技術(shù)更為成熟、應(yīng)用更為廣泛,在改造及建設(shè)成本,安全可靠性,后期運(yùn)營(yíng)維護(hù)方面均具備顯著優(yōu)勢(shì)。按照服務(wù)器出貨量口徑統(tǒng)計(jì),2023H1我國(guó)冷板式液冷服務(wù)器比例為90%左右,浸沒式液冷滲透率為10%。
過去幾年,算力設(shè)備廠商一站式整體交付算力設(shè)備+液冷基礎(chǔ)設(shè)施,優(yōu)勢(shì)是交叉配合界面少、整體交付速度快、后期運(yùn)維一家負(fù)責(zé),但算力設(shè)備與液冷基礎(chǔ)設(shè)施強(qiáng)耦合后,劣勢(shì)也很明顯:
① 二期算力擴(kuò)容時(shí),較難兼容其他品牌的算力設(shè)備,甚至是無法兼容;
② 算力設(shè)備廠商集成的液冷基礎(chǔ)設(shè)施,在系統(tǒng)冗余性、在線維護(hù)性、服務(wù)能力上較難達(dá)到用戶需求;
③ 液冷基礎(chǔ)設(shè)施溢價(jià)高,成本甚至超過30萬元/柜,遠(yuǎn)高于解耦型冷板式液冷。
如同所有居于供給側(cè)、在AI+金融市場(chǎng)鉆研鏖戰(zhàn)的科技廠商一般,科華數(shù)據(jù)也秉持著行業(yè)領(lǐng)先者的責(zé)任感,乘著這股浩蕩東風(fēng),推出「解耦型冷板式液冷數(shù)據(jù)中心解決方案」,致力于共同助力金融機(jī)構(gòu)釋放算力潛能,為金融智算筑建堅(jiān)實(shí)底座。
經(jīng)過充分的市場(chǎng)調(diào)研和案例應(yīng)用,科華數(shù)據(jù)冷板式液冷數(shù)據(jù)中心解決方案凝聚了「6大優(yōu)勢(shì)」。
01 整體優(yōu)化架構(gòu),服務(wù)器全解耦,可兼容多品牌算力設(shè)備,分期建設(shè)無憂
科華數(shù)據(jù)冷板式液冷解決方案,可解耦國(guó)內(nèi)主流品牌液冷算力服務(wù)器,解耦點(diǎn)在液冷服務(wù)器側(cè)或液冷整機(jī)柜側(cè),目前已交付多個(gè)項(xiàng)目,并安全穩(wěn)定運(yùn)行,實(shí)現(xiàn)了客戶對(duì)于液冷數(shù)據(jù)中心兼容解耦的部署架構(gòu)。
02 高密智算液冷POD解決方案,整系統(tǒng)可靠驗(yàn)證,現(xiàn)場(chǎng)高質(zhì)量快速交付
基于豐富的項(xiàng)目經(jīng)驗(yàn),實(shí)現(xiàn)了建設(shè)方案、系統(tǒng)架構(gòu)、核心產(chǎn)品的標(biāo)準(zhǔn)化,并推出了一站式交付的液冷算力POD解決方案,既優(yōu)化了方案論證、產(chǎn)品選型階段的復(fù)雜工作,又提升了產(chǎn)品質(zhì)量、交付速度、確保系統(tǒng)穩(wěn)定運(yùn)行,維護(hù)管理更加簡(jiǎn)便易用,運(yùn)營(yíng)效率得以大幅提升。
03 核心產(chǎn)品優(yōu)異,CDU循環(huán)泵雙泵冗余,水泵、過濾器等不停機(jī)更換維護(hù)
作為液冷系統(tǒng)中的核心產(chǎn)品,科華數(shù)據(jù)液冷CDU采用N+1冗余架構(gòu)設(shè)計(jì),并可放置在精密空調(diào)間,確保一次側(cè)冷卻水不進(jìn)入算力機(jī)房?jī)?nèi)。CDU內(nèi)的循環(huán)水泵采用節(jié)能型變頻雙泵冗余設(shè)計(jì),單臺(tái)水泵即可滿足100%散熱需求,水泵和過濾器均按滿足在線維護(hù)要求,實(shí)現(xiàn)不停機(jī)即可更換維護(hù)。
04 預(yù)制化生產(chǎn)制造,工程產(chǎn)品化,確保交付質(zhì)量,又好又快
基于智能微模塊的豐富經(jīng)驗(yàn),科華數(shù)據(jù)液冷系統(tǒng)將預(yù)制化底座、二次側(cè)管路系統(tǒng)、機(jī)柜(含manifold)、通道封閉、智能小母線、風(fēng)補(bǔ)列間空調(diào)、液冷微模塊監(jiān)測(cè)系統(tǒng)、一次側(cè)水力模塊等進(jìn)行預(yù)制化設(shè)計(jì)生產(chǎn),現(xiàn)場(chǎng)快速交付。
05 交付安全穩(wěn)定,基于正向設(shè)計(jì)理念,通過BIM+CFD仿真模擬及液冷測(cè)試平臺(tái)嚴(yán)格驗(yàn)證
項(xiàng)目正式進(jìn)場(chǎng)后,科華基于BIM三維建模技術(shù),實(shí)現(xiàn)1:1數(shù)字孿生,模擬每一個(gè)設(shè)備、每一段管路和閥門的位置,做到所設(shè)即所得,減少現(xiàn)場(chǎng)管路交叉干涉,確保交付質(zhì)量和速度。通過CFD流體仿真技術(shù),模擬管路流體路徑和機(jī)房?jī)?nèi)的氣流組織,不斷優(yōu)化設(shè)備布局和設(shè)置參數(shù),確保智算機(jī)房高質(zhì)量運(yùn)行。同時(shí),每一套液冷系統(tǒng)出廠前,均會(huì)在科華液冷整系統(tǒng)測(cè)試平臺(tái)中進(jìn)行測(cè)試,驗(yàn)證可靠性和功能參數(shù),確保方案質(zhì)量和系統(tǒng)長(zhǎng)期穩(wěn)定運(yùn)行。
06 項(xiàng)目經(jīng)驗(yàn)豐富,成功交付多個(gè)液冷數(shù)據(jù)中心項(xiàng)目,全生命周期服務(wù)值得用戶信賴
得益于高效散熱、節(jié)能減排、安全可靠等優(yōu)勢(shì),科華冷板式液冷案例覆蓋了通信、互聯(lián)網(wǎng)、高校、金融等多個(gè)行業(yè)用戶,如河北承德智算中心、中國(guó)移動(dòng)蘇州數(shù)據(jù)中心、廈門大學(xué)嘉庚智算中心等。
科華數(shù)據(jù)冷板式液冷解決方案可囊括從通用算力服務(wù)器20kW/柜到智算算力服務(wù)器高密度50kW/柜,甚至科研場(chǎng)景的70~120kW/柜,為各行業(yè)高密度智算中心打造安全可靠、綠色低碳的液冷數(shù)據(jù)中心,賦能千行百業(yè)。在推動(dòng)新技術(shù)發(fā)展的同時(shí),科華數(shù)據(jù)也不斷優(yōu)化整體服務(wù)流程,使每一次交付都得到客戶的高度認(rèn)可。
如,于「通信行業(yè)長(zhǎng)三角地區(qū)重要液冷數(shù)據(jù)中心項(xiàng)目」上,科華數(shù)據(jù)冷板式液冷解決方案助力項(xiàng)目運(yùn)行指標(biāo)大幅提升——
丨散熱能耗降低超50%
丨PUE降至1.2
丨節(jié)約空調(diào)電費(fèi)超50%
丨提高服務(wù)器算力能力5%-10%
從通信,到金融,行業(yè)天然自帶壁壘又何妨,高可靠的產(chǎn)品技術(shù)是其互通的媒介。
當(dāng)金融機(jī)構(gòu)行至全面擁抱大模型、戰(zhàn)略布局AI算力的風(fēng)口,技術(shù)先行者已在此處,等著共同攀越那崢嶸山崗。
結(jié)語:
人工智能先驅(qū)之一,穆斯塔法·蘇萊曼在其出版的《大浪將至》中提到,“技術(shù)是一種創(chuàng)新集群,即將到來的浪潮是像寒武紀(jì)大爆發(fā)一樣的進(jìn)化爆發(fā),將涌現(xiàn)出成千上萬種新應(yīng)用,這些技術(shù)中的每一項(xiàng)都與其他技術(shù)相互交叉、相互加強(qiáng)、相互完善。”
AI賦能智算行業(yè)蓬勃發(fā)展,創(chuàng)新技術(shù)在金融行業(yè)的各類場(chǎng)景中不斷應(yīng)用、驗(yàn)證、迭代,算力基座也正朝著更可靠、更可用、更節(jié)能、更智慧的方向演進(jìn)。
久經(jīng)檢驗(yàn)的金融數(shù)字化轉(zhuǎn)型合作伙伴——科華數(shù)據(jù),正融合30余年電力電子核心技術(shù)及十?dāng)?shù)年數(shù)據(jù)中心建設(shè)運(yùn)維經(jīng)驗(yàn),深刻洞察金融應(yīng)用側(cè)在新建及改造數(shù)據(jù)中心的能耗痛點(diǎn),以更可靠、更解耦的液冷解決方案,助力更多金融機(jī)構(gòu)實(shí)現(xiàn)更高的算力密度、節(jié)省更多的機(jī)柜空間,推動(dòng)底層算力潛能的進(jìn)一步釋放。
科華數(shù)據(jù)(股票代碼002335)前身創(chuàng)立于1988年,立足電力電子核心技術(shù),融合創(chuàng)新數(shù)字科技,提供數(shù)據(jù)中心、高端電源、清潔能源綜合解決方案,服務(wù)全球100 多個(gè)國(guó)家和地區(qū)客戶,推動(dòng)政府、金融、工業(yè)、通信、交通、互聯(lián)網(wǎng)等行業(yè)數(shù)字化、能源低碳化的轉(zhuǎn)型發(fā)展,共建可持續(xù)美好未來??迫A,創(chuàng)造可持續(xù)價(jià)值。
-
2024-06-176種類型負(fù)載科華UPS電源不能負(fù)載
-
2024-06-14進(jìn)入倒計(jì)時(shí)!南京將有好事發(fā)生!
-
2023-12-07科華UPS電源再次榮獲UPS供電系統(tǒng)用戶滿意度大獎(jiǎng)