2025年7月22日,由中國信息通信研究院主辦的第十二屆可信云大會在北京召開。會上,國內首個《面向LLM應用的可觀測性能力要求》標準正式發布。該標準由中國信通院聯合業內29家頭部單位共同制定,基調聽云作為重要參編單位之一,全程參與了標準的設計、討論與落地工作。
這一標準的發布,標志著國內在大模型可觀測性領域邁出了從“實踐分散”到“能力標準化”的關鍵一步。

構建生成式AI的可觀測性基線
行業首個權威標準發布
隨著生成式 AI 技術的加速應用,LLM(大語言模型)在智能對話、RAG 檢索增強生成、Agent 智能體等場景中表現出巨大潛力。與此同時,圍繞 LLM 應用部署的可觀測性建設也面臨前所未有的挑戰:
● 模型鏈路深、依賴復雜
● 推理響應存在不確定性
● 用戶體驗難以量化評估
● 架構層次多樣,監控顆粒度模糊
標準的發布,正是為了解決上述痛點,建立一套“可量化、可評估、可落地”的觀測能力分級體系,指導企業在 AI 時代構建穩健的系統運行與質量保障能力。

基調聽云參與標準制定
貢獻平臺經驗與評估實踐
作為長期深耕智能觀測領域的技術提供方,基調聽云憑借在鏈路追蹤、性能評估、Token 分析、響應延遲追溯等方面的平臺能力,積極參與本次標準制定全過程,并為多個關鍵指標體系的設計提供了實踐支撐。
助力大模型可觀測體系
走向標準化與工程落地
本次標準以數據為主線,提出了從數據采集、模型構建、存儲治理到實際應用的四大模塊化結構,并細化指標至基礎設施層、中間件層、模型層、服務層和應用層。其目標不僅是“規范現有”,更是“引導未來”。
基調聽云將持續與中國信通院等權威機構保持緊密合作,共同推動生成式AI應用的系統可視化、可解釋化、可評估化,構建面向未來的大模型可觀測基礎能力。我們也將繼續依托“觀云智能可觀測性平臺”,打磨面向 AI 應用場景的鏈路觀測、性能診斷與行為分析能力,助力企業更穩、更快、更可控地落地 AIGC 生產體系。
免責聲明:市場有風險,選擇需謹慎!此文僅供參考,不作買賣依據。
關鍵詞: