進(jìn)入2023年11月,算力租賃迎來一輪漲價(jià)潮。
中貝通信公告顯示,其向某公司提供AI算力技術(shù)服務(wù)的單價(jià)為18萬元/P/年,而在9月份,單價(jià)是12萬元/P/年;并濟(jì)科技宣布A100算力服務(wù)收費(fèi)擬上調(diào)100%;匯納科技發(fā)布公告表示擬將所受托運(yùn)營(yíng)的內(nèi)嵌英偉達(dá)A100芯片的高性能算力服務(wù)器算力服務(wù)收費(fèi)上調(diào)100%。
“千模競(jìng)賽”下,算力需求旺盛,算力租賃似乎成為“風(fēng)口上的豬”,相關(guān)企業(yè)均能夠憑借此獲得豐厚的收益,數(shù)據(jù)中心也迎來新的轉(zhuǎn)型發(fā)展時(shí)機(jī),但事實(shí)真是如此嗎?
算力租賃是好機(jī)會(huì)
得益于大模型的爆發(fā),算力需求快速增長(zhǎng),據(jù)預(yù)測(cè),到2024年年底我國(guó)將有5%—8%的企業(yè)大模型參數(shù)從千億級(jí)躍升至萬億級(jí),算力需求增速會(huì)達(dá)到320%。
倍數(shù)級(jí)的增長(zhǎng)意味著巨大的市場(chǎng),而與自建算力比起來,租賃外部算力更靈活,也更合算,這讓算力租賃適時(shí)而起,成為相關(guān)企業(yè)新的發(fā)展機(jī)遇,甚至多家企業(yè)跨界進(jìn)入,包括蓮花健康、ST瑞德、平治信息等。
第十八屆中國(guó)IDC產(chǎn)業(yè)年度大典(IDCC2023)上,超聚變數(shù)字技術(shù)有限公司算力基礎(chǔ)設(shè)施領(lǐng)域CTO丁煜表示,AI是一個(gè)新的應(yīng)用范式,有機(jī)會(huì)打破過去云計(jì)算廠商或其他傳統(tǒng)商業(yè)軟件廠商構(gòu)建出來的相對(duì)已固化的市場(chǎng)。算力租賃是一個(gè)新賽道,有可能產(chǎn)生新的優(yōu)勝者。目前眾多投資人進(jìn)入這一領(lǐng)域也證明了這是一個(gè)好的機(jī)遇。
圖:超聚變數(shù)字技術(shù)有限公司算力基礎(chǔ)設(shè)施領(lǐng)域CTO丁煜
丁煜還明確了算力租賃的需求對(duì)象,他指出,今天談及算力租賃的時(shí)候,聊的不是已經(jīng)成為巨頭的公司,巨頭公司已經(jīng)有自用算力,我們應(yīng)清醒的意識(shí)到給獨(dú)立的AI開發(fā)人才是市場(chǎng)需求者。
同時(shí),對(duì)于中立廠商而言,當(dāng)前機(jī)遇更為契合。摩爾線程云計(jì)算副總裁王華指出,目前看算力市場(chǎng)缺口比較大,但國(guó)內(nèi)大廠的算力已經(jīng)很難租到,中立一些的上升業(yè)務(wù)較少的廠商做算力租賃機(jī)會(huì)更大,從安全角度也更為合適。
圖:摩爾線程云計(jì)算副總裁王華
算力租賃需要面對(duì)多重挑戰(zhàn)
算力租賃的巨大市場(chǎng)毋庸置疑,對(duì)于數(shù)據(jù)中心而言是實(shí)現(xiàn)突破的重大契機(jī),但機(jī)遇之下往往也伴隨危機(jī),這主要表現(xiàn)在我國(guó)算力租賃市場(chǎng)需求雖然快速增長(zhǎng),但供需不平衡,算力租賃在供給方面,存在著多個(gè)挑戰(zhàn)。
始智AI聯(lián)合創(chuàng)始人CTO黃新平表示,當(dāng)前處于基礎(chǔ)訓(xùn)練的階段,還是大量堆顯卡、算力的時(shí)期,嚴(yán)重依賴于原有云計(jì)算的能力,數(shù)據(jù)中心想要建立算力租賃的能力,需要從頭建設(shè),目前來看難度極大。
圖:始智AI聯(lián)合創(chuàng)始人CTO黃新平
具體來看:一,技術(shù)問題。數(shù)據(jù)中心提供算力,并非簡(jiǎn)單的買設(shè)備、通電就能實(shí)現(xiàn)。丁煜指出,智能算力市場(chǎng)發(fā)展極快,投資與研發(fā)周期縮短,技術(shù)與產(chǎn)品的更新要求增加,以此將算力迅速地釋放出來,這給芯片、設(shè)備廠商帶來巨大的壓力,需要加快技術(shù)的革新速度,提升技術(shù)轉(zhuǎn)化能力。
UCloud優(yōu)刻得混合云業(yè)務(wù)中心總經(jīng)理唐立則從更為細(xì)致的方向指出,數(shù)據(jù)中心里網(wǎng)絡(luò)搭建、性能優(yōu)化、后續(xù)維護(hù)、局部調(diào)優(yōu)等都是算力租賃過程中涉及到的技術(shù),需要進(jìn)一步的發(fā)展創(chuàng)新。
圖:UCloud優(yōu)刻得混合云業(yè)務(wù)中心總經(jīng)理唐立
二,生態(tài)問題。算力租賃涉及多條產(chǎn)業(yè),芯片廠商、云廠商、設(shè)備廠商、IDC廠商、大模型廠商等形成良好的產(chǎn)業(yè)合作是充分發(fā)揮各自優(yōu)勢(shì),推動(dòng)算力租賃的重要基礎(chǔ)。丁煜指出,理想狀態(tài)下,算力租賃租的是FLOPS,不是任何一家廠商的產(chǎn)品,這需要多產(chǎn)業(yè)進(jìn)行生態(tài)融合,也是未來把算力租賃生意做好的關(guān)鍵。
不過,目前我國(guó)在此方面依舊處于相對(duì)早期階段。在芯片方面還面臨“卡脖子”問題。王華指出,由于國(guó)內(nèi)卡的算力比英偉達(dá)要低,因此,目前大模型的基本訓(xùn)練是千卡起。國(guó)內(nèi)芯片廠商已經(jīng)在全力推動(dòng),但能將千卡訓(xùn)練做到商業(yè)級(jí)別的還是少數(shù)。想要如英偉達(dá)等形成完善的生態(tài),國(guó)內(nèi)的生態(tài)建設(shè)要重頭逐步做起,需要政府的支持、行業(yè)的共同推動(dòng),是比較漫長(zhǎng)的過程。
三,安全問題。數(shù)據(jù)安全的重要性已經(jīng)不言而喻,在算力租賃的過程中同樣如此。王華表示,目前安全問題有兩個(gè)解決方案,一是技術(shù)手段,將數(shù)據(jù)從傳輸?shù)竭\(yùn)算全過程進(jìn)行加密,但成本也會(huì)增加;二是政府牽頭規(guī)范,通過政策來進(jìn)行推動(dòng),需要多方協(xié)同,不斷完善。
同時(shí),就企業(yè)而言,中立的算力提供商在安全方面有著天然優(yōu)勢(shì),有望在算力租賃中實(shí)現(xiàn)更大發(fā)展。
四,成本問題。技術(shù)方面相對(duì)欠缺、高端芯片的短缺、生態(tài)建設(shè)的不足、安全防護(hù)的提升,這些都導(dǎo)致算力租賃成本的升高。唐立以高端芯片為例指出,當(dāng)涉及A800或H800算力的租賃,如果進(jìn)入較早,芯片購(gòu)買成本較低,能夠從中獲得較好收益;如果進(jìn)入較晚,芯片成本較高,可能兩三年都不一定能夠回本。而未來算力租賃市場(chǎng)價(jià)格無法準(zhǔn)確預(yù)測(cè),高成本下將帶來較高的風(fēng)險(xiǎn)。
除此之外,伴隨著入局者增多,算力租賃市場(chǎng)競(jìng)爭(zhēng)也越發(fā)激烈。對(duì)于數(shù)據(jù)中心而言,這同樣增加了獲益難度。
因此,數(shù)據(jù)中心想要抓住算力租賃的機(jī)遇,需要在技術(shù)、生態(tài)、安全等問題上實(shí)現(xiàn)突破,需要高端芯片的基礎(chǔ),需要政府的指引、支持,需要與多產(chǎn)業(yè)的深度融合,以降低成本。由此,算力租賃才能實(shí)現(xiàn)算力的有效供給。
由此可見,當(dāng)前算力租賃市場(chǎng)固然廣大,但這門生意并不好做,需要在高端芯片、優(yōu)良設(shè)備的基礎(chǔ)上進(jìn)行,且面臨多方面的革新、優(yōu)化。
大模型收斂之時(shí),算力租賃將迎邊緣需求爆發(fā)
判斷算力租賃是否是一門好生意,除了看其當(dāng)下的機(jī)遇與挑戰(zhàn),還要從長(zhǎng)遠(yuǎn)來分析,其是否能夠形成長(zhǎng)久的良性的市場(chǎng)供需,尤其是在大模型發(fā)展逐步發(fā)展成熟,千模競(jìng)賽結(jié)束之時(shí),算力租賃未來市場(chǎng)是否依舊有大量需求釋出是關(guān)鍵。
竹間智能COO孫彬指出,大語(yǔ)言模型的核心點(diǎn)較為一致,競(jìng)爭(zhēng)結(jié)果很可能是贏者通吃,巨頭產(chǎn)生后,可能擁有自身的算力資源,算力租賃存在著不確定性。不過,訓(xùn)練模型大家趨同后,應(yīng)用開發(fā)百花齊放時(shí),推理變?yōu)榱诵碌男枨蟆?/p>
圖:竹間智能COO孫彬
丁煜進(jìn)一步指出,大模型的收斂是必然趨勢(shì),但收斂后并非絕望的開始。訓(xùn)練的算力固然可能會(huì)集中到有自建數(shù)據(jù)中心的企業(yè)中,不過,應(yīng)用環(huán)節(jié)的到來卻釋放出了海量的算力租賃需求。應(yīng)用將在成熟的大模型基礎(chǔ)上實(shí)現(xiàn)創(chuàng)新,大量端側(cè)產(chǎn)品需要算力支撐,邊緣算力將爆發(fā),成為算力租賃的主要需求方。
伴隨應(yīng)用的增多,算力租賃新的爆發(fā)時(shí)刻也將到來。算力的供給也會(huì)發(fā)生新的變化,大規(guī)模集中式的數(shù)據(jù)中心或許更多的是自建,適應(yīng)不同行業(yè)或者地區(qū)的邊緣算力將迎來發(fā)展。
同時(shí),算力還將逐步實(shí)現(xiàn)標(biāo)準(zhǔn)化,黃新平表示,在政策的推動(dòng)下,應(yīng)用與開發(fā)環(huán)境更友好,國(guó)產(chǎn)芯片得到升級(jí),國(guó)產(chǎn)算力迎來新發(fā)展,將從技術(shù)層面抹平異構(gòu)算力的區(qū)別,以實(shí)現(xiàn)更好的供給。
綜合來看,大模型的發(fā)展,不論是推理還是應(yīng)用階段,對(duì)算力租賃都將有著巨大的需求,不過,在算力供給方面存在著技術(shù)、安全、生態(tài)、成本等挑戰(zhàn),同時(shí),推理與應(yīng)用的算力需求點(diǎn)卻有所不同,應(yīng)用將向邊緣算力轉(zhuǎn)移,數(shù)據(jù)中心想要抓住機(jī)遇需要不斷解決相應(yīng)問題,并面向未來邊緣側(cè)需求進(jìn)行優(yōu)化。孫彬指出,大模型、人工智能呈爆發(fā)趨勢(shì),大規(guī)模的訓(xùn)練需求之后,一定有起伏的曲線,會(huì)再次回歸增長(zhǎng),而增長(zhǎng)的黃金點(diǎn)便是在應(yīng)用百花齊放的時(shí)間段,這也將是整個(gè)IDC產(chǎn)業(yè)迎來第二次爆發(fā)的時(shí)期,從芯片到設(shè)備到云計(jì)算等產(chǎn)業(yè)上下游企業(yè)將實(shí)現(xiàn)共贏。