億萬克柳星:“雙碳目標”下,如何應對AI大模型帶來的算力需求?

韓璐 10個月前 (04-27)

一個AI大模型,背后就需要數萬張GPU的算力支持。

億萬克柳星:“雙碳目標”下,如何應對AI大模型帶來的算力需求?

從去年11月30日至今,由ChatGPT引發的“AI大模型熱”在產業界依舊持續著,依照當前不斷有企業、產業大佬加入進來,想必AI大模型的熱度一時半會兒是下不去了。

這一背景下,作為算力基礎設施,高性能服務器自然也受到了極大的關注。

就在此前落幕的第十一屆中國電子信息博覽會(CITE 2023)上,鎂客網也見到了許多服務器、數據廠商。期間,帶著對AI大模型盛行下高性能服務器、數據中心的探討,我們也有幸采訪億萬克全國銷售總監柳星先生,聽他娓娓道來。

億萬克“前身”是研祥集團服務器事業部,后獨立為集團旗下全資子公司,致力于為電信運營商、互聯網大廠、政企用戶等群體提供集產品研發、生產、銷售、部署、運維于一體的服務器及IT系統解決方案,應用領域覆蓋云計算、數據中心、邊緣計算、人工智能、金融、電信、教育、能源等。

眼下,億萬克主打產品包括亞當通用機架式服務器系列、亞當液冷服務器系列、蛟云存儲設備系列等。

AI大模型流行,AI異構型服務器需求倍增

不夸張地說,只要是你現在立馬能想到的科技大廠,基本上都在AI大模型這條道上。

回頭來看,這把火先是在國外科技界被點燃,引得谷歌、微軟、Meta紛紛入局,接著火勢蔓延到了國內,包括BAT、360在內的科技互聯網大廠像是商量好的,也先后推出了自己的AI大模型產品。

這期間,馬斯克一邊呼吁暫停開發更強AI模型,一邊“打臉”般購入1萬塊GPU、成立AI大模型公司與OpenAI打擂臺的行為,也為AI大模型的火熱提供了佐證。

而在應用層面,從最初的對話式交互,到后面的圖片交流,再到自動駕駛等領域,AI大模型的場景應用也是逐漸增多……對此柳星也表示,ChatGPT太火了,隨著國內應用需求的大幅度增加,致力于提供高性能服務器的億萬克在近半年也收到了許多針對AI異構型服務器的需求。

面向客戶不斷增長的高算力需求,億萬克早有應對,比如此次進行展示的“亞當G952N5”。

億萬克柳星:“雙碳目標”下,如何應對AI大模型帶來的算力需求?

柳星介紹稱,這是一款搭載英特爾Purley平臺可擴展系列處理器的4U10GPU卡4電源AI型服務器,一次最高可支持10張雙寬GPU卡,具有實時高速的并行計算和浮點計算能力,適用于HPC、大數據分析、3D圖形應用程序、深度學習和科學計算等場景。

而站在高性能服務器角度,基于GPU提供高算力是一回事,如何降低能耗也是一道繞不過去的關卡。

液冷技術,高性能服務器的減碳“新寵”

面向算法訓練與應用,高性能服務器能夠提供更高的計算能力、更快的數據處理速度和更低的延遲,但往往需要付出高能耗的代價,不僅傷“芯”,也易造成高成本,嚴重的話,服務器因為溫度過高而宕機也是十分有可能的。

尤其是近幾年,隨著“3060雙碳目標”的提出,作為能耗大戶的數據中心更是成為減碳的重點關注對象,具體表現比如PUE值不斷縮緊。

PUE值是評價數據中心能源效率的指標,是數據中心消耗的所有能源與IT負載消耗的能源的比值。PUE值越小,意味著數據中心的節能減排程度越好,相反則能耗比越高。

而依據最新政策,國家要求到2025年,全國新建大型、超大型數據中心的PUE值降到1.3以下,這對于服務器廠商而言是一個不小的挑戰。這一背景下,廠商們也紛紛將目光轉向了比傳統風冷技術更為高效的液冷技術。

“整個數據中心有幾千、幾萬臺服務器,整體能耗比較高,傳統風冷式服務器會導致數據中心PUE值會很高,不符合要求,現在包括老舊數據中心的整改,以及新建數據中心,都可以使用我們的液冷服務器,讓PUE值下降到1.25以下。”柳星表示。

億萬克柳星:“雙碳目標”下,如何應對AI大模型帶來的算力需求?

目前億萬克液冷服務器業務劃分出兩條線,一條是冷板式液冷服務器LCP系列,也在此屆電博會做了首次公開亮相;另一條是浸沒式液冷服務器IC系列。

其中,對比億萬克冷板式液冷服務器和風冷式服務器,前者能夠將PUE值降至1.25以下,后者則維持在1.6左右。雖然數值上只有0.35的差距,但放在服務器功耗上卻呈現出不小的差距。

最后

前面也提到,億萬克依托于整個研祥集團,而后者是中國最大的特種計算機研究、開發、制造、銷售和系統整合于一體的高科技企業,在對供應鏈的管理和產品質量的把控上已經形成一套嚴苛的標準。

如今這一嚴苛標準也融入了億萬克的基因中。與此同時,“從產品研發生產到銷售,再到交付客戶、售后是一整套完整的服務,且億萬克服務器包括外觀在內都是交由國外一流知名設計團隊獨家設計的,從品質,到整體的交付,再到整體供應鏈系統,億萬克都可以給到客戶一個很好的支撐。”柳星表示。

最后,記得關注微信公眾號:鎂客網(im2maker),更多干貨在等你!

鎂客網


科技 | 人文 | 行業

微信ID:im2maker
長按識別二維碼關注

硬科技產業媒體

關注技術驅動創新

分享到