東方證券最新發布的計算機行業深度報告顯示，人工智能算力發展正經歷結構性轉變，從以模型訓練為主導的階段邁向以推理應用為核心的新周期。這一轉變源于大模型訓練數據增速放緩帶來的邊際效益遞減，以及推理成本持續下降引發的需求爆發式增長。報告特別指出，多模態交互技術與智能體（Agent）的廣泛應用，正在推動推理算力需求呈現非線性增長態勢。
在底層架構層面，智能體時代的到來正在重塑計算資源分配模式。傳統CPU角色從任務調度轉向核心計算執行，成為鍵值緩存（KV-cache）的最佳載體，促使服務器向多核架構和大容量內存方向升級。GPU領域則面臨性能瓶頸轉移，顯存帶寬成為制約因素，推動推理需求向結構化方向發展。這種變化直接導致云服務商業模式轉型，資源租賃模式逐步讓位于模型即服務（MaaS）和智能體編排系統，工具鏈生態建設成為競爭關鍵。
存儲領域同樣迎來技術革新。英偉達推出的ICMS AI原生存儲平臺通過優化KV緩存管理，配合SCADA計劃提升存儲效率，配合cuDF、cuVS等數據加速庫的廣泛應用，顯著降低了AI推理與數據處理成本。國內企業星環科技與英偉達合作開發的GPU數據庫，進一步推動了存儲架構的升級進程。這些技術突破共同構建起新一代AI基礎設施，為推理主導時代的算力需求提供支撐。
報告分析認為，當前算力格局的演變具有雙重驅動特征：技術層面，大模型訓練進入平臺期，而推理應用場景持續拓展；市場層面，企業級用戶對實時決策、個性化服務的需求激增，推動推理算力占比快速提升。這種轉變不僅要求硬件架構調整，更催生出新的軟件生態和商業模式，整個AI產業鏈正在經歷深度重構。
