【導讀】隨著AI從大模型走向智能體(Agentic AI),CPU正在重新成為整個AI系統的核心。就比如,最近英特爾就說隨著AI從模型訓練邁向推理和智能體應用,數據中心正在經歷新一輪架構重構。在這一過程中,CPU不再只是輔助角色,而是重新成為AI基礎設施的調度中心和控制中樞。
RISC-V作為開放且極具拓展性的指令集,正在在Agentic AI時代爭奪越來越多的定義權。
2026年WAIC期間,在芯原主辦的“RISC-V和物理智能論壇”上,靈睿智芯聯合創始人、副總裁李華慶圍繞Agentic AI時代CPU的新定位、高性能RISC-V的發展趨勢,以及靈睿智芯在高性能RISC-V CPU領域的布局進行了分享。

智能體時代,CPU重新成為系統核心
李華慶認為,今年以來,隨著Agentic AI的發展,AI已經從'會聊天'逐漸演變為'會做事',真正開始成為生產力工具。
與生成式AI相比,智能體最大的變化并不僅僅來自大模型(Model),更重要的是圍繞模型運行的一整套Agent框架(Harness)。這一層負責智能體之間的調度、協同、任務執行以及系統管理,而這些工作幾乎都需要CPU完成。
例如,智能體運行過程中涉及的大量系統級任務,包括多智能體調度、沙盒創建與銷毀、權限管理、狀態監控、安全隔離等,都依賴CPU完成;CPU還承擔著智能體記憶管理的重要職責;短期記憶中的KV Cache、超長上下文管理需要CPU協調;長期記憶涉及向量數據庫、知識圖譜、外部知識庫的訪問和檢索,同樣由CPU負責調度;無論是網頁抓取、腳本執行,還是各類工具調用(Tool Calling),本質上都是CPU最擅長處理的工作。
因此,在Agentic AI時代,CPU已經不再只是AI加速器的'輔助角色',而成為整個智能體運行框架的控制中心。
CPU開始更多參與AI推理
CPU在大模型推理過程中的作用也正在持續增強。李華慶表示,在生成式AI時代,CPU主要負責數據預處理、后處理以及I/O調度,大部分計算任務仍由GPU或AI芯片承擔。隨著大模型技術不斷演進,越來越多推理任務開始由CPU參與完成。
例如,對于'唐朝從哪一年到哪一年、共有多少位皇帝'這類穩定、不隨時間變化的知識,系統完全可以由CPU結合緩存和數據庫直接完成查詢,而無需再次調用大模型進行推理,不僅能夠降低推理延遲,也能減少整體功耗。
隨著CPU越來越深度地參與推理流程和智能體運行框架,它正在成為下一代AI系統新的性能瓶頸,也因此重新成為架構優化的重點。
RISC-V為智能體提供可擴展計算平臺
面對智能體和具身智能日益復雜的應用場景,傳統通用CPU越來越難兼顧所有業務需求。李華慶認為,在摩爾定律放緩、工藝紅利逐漸減弱的背景下,未來提升計算效率的重要方向已經從單純依賴先進制程,轉向軟硬協同設計。
RISC-V最大的優勢,正是開放、可擴展和可定制。開發者可以針對不同應用場景增加專用指令和硬件模塊,讓CPU更加貼近具體業務,實現領域專用優化,而不是依靠一顆完全通用的處理器覆蓋所有應用。
對于國內產業而言,RISC-V既具備自主可控能力,又能夠保持與全球生態兼容,為智能體時代提供了新的技術路線。
李華慶認為,Agentic AI天然需要大量針對場景的架構創新,而RISC-V開放指令集為這些創新提供了充分空間,無論是流水線優化、專用計算單元,還是系統級協同,都可以圍繞具體應用進行聯合設計。
高性能RISC-V開始進入數據中心
近年來,RISC-V生態保持高速發展,參與企業不斷增加,產品類型也越來越豐富。不過,李華慶指出,2025年以前,大多數RISC-V產品仍主要集中在MCU、IoT和AIoT等嵌入式市場。
雖然包括NVIDIA在內的國際廠商每年部署數十億顆RISC-V內核,但更多承擔的是控制器等輔助功能,其自身附加值并不高。
整個產業也意識到了這一問題。2024年,RISC-V國際社區正式批準RVA23規范,引入虛擬化、向量擴展等一系列面向高性能CPU的重要特性,為服務器和數據中心應用奠定基礎。
自2025年以來,高性能RISC-V CPU開始密集發布。包括阿里達摩院推出玄鐵C930,隨后又發布玄鐵C950;2026年,靈睿智芯也正式發布首款高性能RISC-V CPU內核。隨著CPU IP逐漸成熟,面向服務器的數據中心級RISC-V芯片也開始陸續出現。
李華慶認為,高性能RISC-V已經進入產業發展的新階段。
智能體時代需要怎樣的CPU?
在李華慶看來,一顆面向Agentic AI的高性能CPU,需要同時滿足AI計算、系統管理以及開放擴展等多方面能力。
從計算模式來看,智能體屬于典型的混合計算(Hybrid Computing)。
除了傳統矩陣計算之外,還包含Token處理、數據管理、任務調度以及大量控制邏輯,因此CPU不僅需要具備基礎AI計算能力,還需要提供豐富的擴展接口,支持針對不同應用增加專用加速模塊,而這正是RISC-V架構最大的優勢。
超深、超寬流水線提升處理能力
為了提升處理器吞吐能力,靈睿智芯重點優化了CPU流水線設計。李華慶將CPU流水線比作汽車生產線:一條設計優秀的流水線可以擁有上百道工序,但如果物料供應不足,最終產能仍然無法提升。
除了增加流水線深度之外,更重要的是提高每個周期能夠處理的指令數量,確保流水線始終保持高利用率。
據介紹,靈睿智芯P100 CPU采用超過20級的超深流水線設計,同時支持每周期8條指令取指、8條譯碼以及最多10條指令發射,屬于目前業內流水線最深、發射寬度最大的RISC-V CPU設計之一。
多線程成為智能體的重要能力
除了流水線設計,多線程也是靈睿智芯重點布局的方向。李華慶介紹,同時多線程(SMT)技術與x86超線程原理類似,可以讓一個物理核心同時執行多個線程。這一技術尤其適用于數據庫訪問、智能體調度等I/O密集型場景。
由于CPU計算速度遠高于I/O速度,傳統單線程處理器經常需要等待數據返回,導致計算資源閑置。多線程則能夠利用等待時間切換到其他任務,提高整體資源利用率。對于數據庫等典型I/O密集型應用,多線程可帶來約50%至80%的性能提升。
他用廚房進行了類比:如果一位廚師只有一名配菜員,大量時間都會浪費在等待食材上;而增加多名配菜員之后,廚師可以持續炒菜,整體效率將顯著提升。
目前,靈睿智芯已經實現單核四線程設計,也是全球少數支持單核四線程RISC-V CPU的企業之一。
李華慶表示,包括NVIDIA以及國內多家科研機構也都已經開始布局多線程技術,這說明智能體時代對于CPU并發能力提出了新的要求。
長時間運行,對可靠性提出更高要求
隨著智能體持續運行時間不斷增加,CPU可靠性的重要性也進一步提升。李華慶認為,智能體通常需要連續運行較長時間,執行復雜的決策鏈,一旦底層硬件發生錯誤,就可能在整個推理過程中不斷累積和放大。
因此,企業級CPU不僅需要能夠檢測錯誤,還要能夠快速隔離故障,甚至實現自動修復。
據了解,靈睿智芯已經在CPU內核層面實現了硬件級錯誤檢測、自愈和恢復機制,以滿足企業級AI系統對可靠性的要求。
面向數據中心打造國產高性能RISC-V CPU
最后,李華慶介紹了靈睿智芯的發展情況。靈睿智芯成立于2025年,是一家專注于全棧自研RISC-V CPU內核、Chiplet和芯片產品的企業,核心團隊主要來自IBM,長期從事超大規模處理器研發,在CPU架構設計、軟硬協同優化以及端到端解決方案方面積累了豐富經驗。成立一年多以來,公司已完成兩輪融資,累計融資金額超過3億元。
技術方面,公司已完成多個關鍵節點驗證,包括在FPGA平臺成功運行類操作系統,在更大規模FPGA和仿真平臺完成SPEC CPU2017測試驗證。目前,公司已形成以高并發、多線程、超深超寬流水線以及企業級可靠性為核心特色的高性能RISC-V CPU產品體系。
李華慶表示,凡是Arm Neoverse N2、N3能夠覆蓋的應用場景,高性能RISC-V同樣具備競爭能力。同時,依托RISC-V開放架構,公司還將繼續探索存算一體、光計算等新型計算架構的融合創新,為下一代智能計算提供更多可能。



