智能體出過的事,為什麼不叫事故

11 月 16 日,Gartner 在倫敦發布了一份調查。樣本是 298 位美國和英國的基礎設施與維運負責人,調查時間在 2026 年 6 月到 7 月。其中三個數字放在一起,很像一句繞口令。

95% 的組織在過去 12 個月裡,至少遇到過一次智能體相關的事故。同一批受訪者裡,70% 認為自家的智能體目前在安全邊界內運行。57% 承認現有的治理是薄的。

95%

過去一年至少一次智能體相關事故

70%

認為智能體在安全邊界內運行

不矛盾。它只說明一件事:發生了很多事,但大部分沒有被記成“事故”。

一、三種不算事故的事故

在多数企業裡,智能體闖的禍落不進現有的故障分類,因為它們長得不像故障。

第一種:循環調用

一個負責對帳的 AI 代理,遇到一張格式不對的發票,重試了四十次。系統沒有當機,業務沒有中斷,只是當月的模型呼叫帳單多了一截。財務把它記進雲端成本,IT 把它當成「用量上漲」,沒有人把它記成一次事故。可它明明是一次失控。

第二種:越權改配置

智能體為了讓流程跑通,把一個必填欄位改成了選填,或者把一條記錄規則的適用範圍放大了一點。業務當天沒出問題,甚至更順了。三個月後某張報表對不上,已經沒人記得是哪一次改的。這種事在變更管理裡通常叫「優化」,不叫事故。

第三種:上下文污染

知識庫裡混進了一份過期制度,智能體照著舊規則批了一筆費用。人複核時發現了,改回來了,於是它變成「人工兜住了」,而不是「系統出過錯」。

三種事故有一個共同點:沒有工單號、沒有等級、沒有恢復時間。傳統監控看的是可用性——系統是否在線、介面是否返回 200。智能體壞掉的往往不是可用性,是判斷。而判斷沒有錯誤碼。

二、為什麼現有的監控看不見

Gartner 的調查裡還有三個數字:55% 的受訪者說現有的 IT 風險工具「完全過時」,只有 15% 裝了自動熔斷,能在智能體陷入失控循環時把它停住;如果沒有強治理,到 2028 年,40% 規模化使用 AI 的 I&O 組織會遭遇一次業務關鍵的服務中斷。

這三個數字背後是同一個結構問題。傳統系統失敗時會報錯,智能體失敗時往往「成功」返回;傳統系統有明確的責任人,智能體掛在一個服務帳號上;傳統系統有變更窗口,智能體 7×24 在跑。用看伺服器的方式看智能體,能看見的只有它還在不在,看不見它做得對不對。

記錄之所以難,還因為它要求每一個動作都有業務主語。很多智慧體專案上線時,只申請了一個 API key,連 owner 都沒寫進資產表。出了事,能查到的只有一個呼叫記錄和一堆 token 數,查不到「它是替誰在幹活」。

Nathan Hill 在新聞稿裡的判斷是,智慧代理不是另一種自動化腳本,它需要一套主動的基礎設施治理方法。報告給了七根柱子:身分、護欄、可觀測性、智慧代理 FinOps、升級、圍堵、資料邊界。

七根都重要,但如果只能先立三根,我會選身份、可觀測、圍堵。理由不是它們最先進,而是它們都指向同一樣東西:記錄。沒有身份,記錄不知道是誰;沒有可觀測,記錄不知道做了什麼;沒有圍堵,記錄只能事後看,救不了當下。

三、Oracle 把設定寫成技能,然後加了一道人工批准

10 月 26 日,Oracle 在 AI World 上發布了 Fusion Setup and Configuration Registry(FSCR)。11 月 19 日,Fusion Insider 又發了一篇導讀,把用法講得更清楚。

它是一個公開的 Git 儲存庫,把 Oracle Fusion 的組態知識做成機器可讀、可執行的 AI 技能,涵蓋組態選項、相依性、執行順序、測試和驗證。AI 助理或編碼代理可以讀取業務需求、流程文件、政策和現有組態,將它們轉譯成實施 runbook,然後直接在 Fusion 中規劃、執行、測試、驗證。

這份新聞稿裡最值得注意的不是「AI 能配 ERP 了」,而是後面半句:專家可以檢查已完成的配置、要求調整、批准部署。

Oracle 沒有讓智慧體自己說了算。它把「執行」做得很快,同時把「批准」留給了人。這個分工,比任何一句「人機協同」的口號都具體。

Oracle 應用開發執行副總裁 Chris Leone 的解釋是,客戶和夥伴過去每做一次實施,都要重建一遍關鍵配置知識,或者依賴很快會過時的靜態文件。FSCR 想解決的是知識復用,不是替代簽字。

對做 ERP 實施的人來說,這件事的啟發不在技術,而在交付物的形態。過去交的是文件、截圖、操作手冊;現在要交的是可執行的配置技能、對應的測試用例、每一項的批准記錄。這三樣東西,恰好也是事故發生時能拿出來重建現場的材料。文件只能證明「我們說過」,測試和批准才能證明「我們驗過」。

四、跨組織的時候,身份問題更硬

11 月 19 日,武漢智能體可信互聯中心啟動試運行,落戶東西湖區,由中國信通院發起運營,是繼北京、廈門、重慶之後中部地區的節點。信通院華中研究院副院長黃子沛的比喻是,給智能體發「網絡身份證」和「門牌號」,用統一標識把它和開發者、運營者、責任主體關聯起來。

這個中心要回答四個問題:它是誰、代表誰、可以做什麼、出了問題誰負責。

這四個問題在企業內部同樣成立,只是內部可以靠制度——帳號誰開的、權限誰批的、出了事找哪個部門。跨組織不行,兩家公司的智能體互相呼叫,靠郵件和口頭承諾說不清楚。所以行業先做的,是把身分變成可驗證的標識。

順序別搞反。內部四問答不清楚的企業,接外部網路只會把混亂放大。先把「誰開的帳號、能做什麼、誰負責」寫下來,再談互聯。

五、在 Odoo 裡,怎麼讓事故留下痕跡

ERP 是智能體最願意動手的地方,因為這裡有單據、有金額、有審批。也正因為如此,它最適合承擔“事故台賬”的角色。下面這張表按動作類型分,不按工具分。

智能體要做的動作事前誰批事中留什麼事後怎麼回滾
讀數據、出報表不逐次批,一次定授權範圍查詢與匯出記錄收回權限
建單、改單依金額與狀態設定審批節點單據 chatter + 欄位追蹤取消單據或沖銷
改配置、權限、主資料必須人工批,最好雙人複核配置變更單 + 前後值按配置基線回滾

落實到 Odoo 的具體做法,有五件事值得先做。

  • 專用服務帳號,配置記錄規則。為智能體開設獨立的 res.users,按崗位配置群組和 ir.rule,不重複使用管理員帳號。帳號名稱要能看出是哪個智能體,不要叫「自動化」。
  • 關鍵欄位開啟追蹤。Odoo 的 mail.thread 會把欄位變更寫進 chatter,誰改的、什麼時候、從什麼改成什麼,都在裡面。注意兩個繞過口:直接寫 SQL 不走 ORM,以及帶 tracking_disable 上下文的寫入,都不會留下追蹤記錄。
  • 設定類變更走簽核。把開關值放進 ir.config_parameter,變更透過簽核單(企業版 Approvals;社群版可用 OCA 簽核模組或自訂狀態機)走一遍,保留變更前後值。欄位級的稽核可以再加一層 OCA 的 auditlog。
  • 附件替換要單獨記。圖紙、模型檔案、燒錄包的替換,在 Odoo 裡是附件的增刪,不會自動進 chatter。要麼給附件加版本號和變更說明,要麼把關鍵檔案掛到帶追蹤的紀錄上,別讓「換了哪一版圖紙」變成無頭案。
  • 分析類智能體只給唯讀副本。報表、問數這類場景,讓它連唯讀庫,別在主庫上給寫權限。權限一旦給出去,收回來往往比給出去難。

六、事故臺帳五問

不用急著買治理平台。先用五個問題測一下現在的底子。這五個問題都是事後視角,答不上來,說明紀錄沒留夠。

  • 過去七天,它改過哪些單?範圍能不能一次拉出來?
  • 其中哪幾筆是人批准的?批准人是誰?
  • 有沒有某一筆改完後沒生效,或者生效過頭?
  • 當時用的規則、提示詞、知識庫是哪一版?
  • 如果現在要它停,幾步能停?停的是它,還是整條業務線?

五問裡如果有三問答不上,先補記錄,別急著上平台。平台解決的是“看見”,記錄解決的是“有東西可看”。

台帳本身不用複雜。五個欄位就夠:時間、動作、影響、怎麼發現的、怎麼恢復的。每週掃一眼分佈,會看到一些在週報裡永遠不會出現的東西——比如某個智慧體每週五下午都會多改幾張單,因為那天有批次價格調整;比如某類錯誤總是由人工複核兜住,所以從來沒進過故障統計。這些規律比一份治理框架更能告訴你下一步該改哪裡。

一個可以這週就做的動作:回放測試。隨機抽一條智能體寫過的單,在測試環境裡按當時的規則重放一遍,看能不能得到同樣的結果。得不到,說明規則、數據、模型至少有一個沒有版本化。這比任何一份治理方案都更能說明問題。


Gartner 那份調查裡,最值得抄下來的不是 95%,是 70%。95% 說明事故很普遍,70% 說明我們連「什麼算事故」都還沒統一。

智能體不會因為被信任就變安全,它只會因為被記錄而變得可管理。給它一個名字,給它一本臺帳。事故有了名字,治理才算開始。

文中資料來源:Gartner 2026-11-16 新聞稿《Gartner Says Weak AI Governance Will Lead to Business-Critical Service Disruptions for 40% of I&O Organizations by 2028》(298 位美英 I&O 負責人,2026 年 6–7 月調研;95% 事故率、70% 安全邊界認知、57% 治理薄弱、55% 風險工具過時、15% 自動熔斷、40% 預測;Nathan Hill 引語與七項治理要點);Oracle 2026-10-26 新聞稿及 Fusion Insider 2026-11-19 導讀(FSCR 公開 Git 倉庫、配置技能、專家複核與批准部署、Chris Leone 引語);湖北日報 2026-11-20 關於武漢智能體可信互聯中心試運行的報導(中國信通院發起運營、黃子沛“網路身分證/門牌號”表述與四個問題)。Odoo 模型與欄位以 17 至 19 版為例,20 版可能調整,實施前請核對官方文件;文中三類事故為常見情形的合併描述,不對應單一企業。

眾諦信息 · 企業管理數字化觀察 · 文中企業案例引自公開報導,未附第三方審計。

关于我们

​我们致力于帮助中小企业实现数字化转型,我们的团队由一群充满激情和创新思维的专业人士组成,他们具备丰富的行业经验和技术专长。

扫一扫获取顾问以及手册

登入 發表評論
產品裡裝了一段會升級的程式碼,BOM 該怎麼寫