DeepSeek憑借低成本、高性能、開源優勢帶來的蝴蝶效應依然在持續影響企業AI應用部署。尤其在數據安全備受關注的背景下,私有化部署已經成為企業應用AI大模型的優選方案。賽迪顧問在近期發布的《2025中國AI Infra平臺市場發展研究報告》中認為,在推理算力需求激增、各種模型在企業場景加速滲透,以及數據合規需求背景下,催生了企業對人工智能基礎設施(AI Infra)平臺的新需求。
報告首次對AI Infra平臺概念進行了描述:“AI Infra平臺具備三大能力,可分為算力管理層、模型管理層、應用管理層,AI Infra平臺是支撐人工智能應用開發、部署、運行和管理的一系列基礎工具和軟件平臺”,并明確表示,2025年將是中國AI Infra平臺應用元年,預計2025年中國AI Infra平臺市場規模將達到36.1億元,同比2024年增長超過86%。
賽迪顧問:2023-2025年中國AI Infra平臺市場規模及預測
AI Infra平臺發展尚處早期階段,通過企業級AI應用實踐不斷完善并逐漸蓄勢待發。報告認為,AI Infra平臺以企業級AI應用為核心,具備算力管理層、模型管理層、應用管理層三層能力模型,不同類型的廠商基于自身能力已經在2024年首批入局AI Infra平臺市場不同層級,并公布了首批入局代表廠商,云軸科技ZStack憑借AIOS平臺智塔成為AI Infra平臺代表廠商。而中國AI Infra平臺市場參與廠商來自幾個領域,主要參與廠商包括互聯網廠商、企業級云廠商、大模型廠商、人工智能軟件廠商、大數據軟件廠商和初創企業。
賽迪顧問認為,從AI Infra平臺三層能力模型角度出發,互聯網廠商、企業級云廠商基本具備三層管理能力;大模型廠商、人工智能軟件廠商、大數據廠商以模型管理層為能力出發點,逐漸豐富算力管理層和應用管理層能力;初創企業從各自技術能力角度出發,逐漸積累企業級用戶經驗。云軸科技ZStack因具備企業級用戶基礎,豐富的企業級算力基礎設施管理能力和應用管理運營能力,成為企業級云廠商入局AI Infra平臺的代表廠商之一。
報告顯示,“ZStack AIOS平臺智塔聚焦異構算力管理、多模型協同加速、AI自服化、數據安全等領域,為企業用戶提供具備算力調度、模型訓推、AI應用服務開發的私有化一站式平臺。平臺預置AI開發工具和服務,虛擬化和云原生、高性能存儲網絡,具備本地化數據管理和加密、故障自愈高可用、災備服務等企業級能力。”
ZStack AIOS平臺智塔產品架構圖
在今年2月2日,ZStack AIOS平臺智塔于業界首發支持DeepSeek V3/R1/ Janus Pro三種模型后,3月3日ZStack基于ZStack AIOS 平臺智塔發布智塔AI一體機DeepSeek版,可基于海光、昇騰、英偉達、英特爾等多種國內外CPU/GPU私有化部署,滿足企業進行DeepSeek等大模型的本地私有化部署需求。