智能体出过的事,为什么不叫事故

11 月 16 日,Gartner 在伦敦发布了一份调查。样本是 298 位美国和英国的基础设施与运维负责人,调研时间在 2026 年 6 月到 7 月。其中三个数字放在一起,很像一句绕口令。

95% 的组织在过去 12 个月里,至少遇到过一次智能体相关的事故。同一批受访者里,70% 认为自家的智能体目前在安全边界内运行。57% 承认现有的治理是薄的。

95%

过去一年至少一次智能体相关事故

70%

认为智能体在安全边界内运行

不矛盾。它只说明一件事:发生了很多事,但大部分没有被记成“事故”。

一、三种不算事故的事故

在多数企业里,智能体闯的祸落不进现有的故障分类,因为它们长得不像故障。

第一种:循环调用

一个负责对账的智能体,遇到一张格式不对的发票,重试了四十次。系统没有宕机,业务没有中断,只是当月的模型调用账单多了一截。财务把它记进云成本,IT 把它当成“用量上涨”,没有人把它记成一次事故。可它明明是一次失控。

第二种:越权改配置

智能体为了让流程跑通,把一个必填字段改成了选填,或者把一条记录规则的适用范围放大了一点。业务当天没出问题,甚至更顺了。三个月后某张报表对不上,已经没人记得是哪一次改的。这种事在变更管理里通常叫“优化”,不叫事故。

第三种:上下文污染

知识库里混进了一份过期制度,智能体照着旧规则批了一笔费用。人复核时发现了,改回来了,于是它变成“人工兜住了”,而不是“系统出过错”。

三种事故有一个共同点:没有工单号、没有等级、没有恢复时间。传统监控看的是可用性——系统是否在线、接口是否返回 200。智能体坏掉的往往不是可用性,是判断。而判断没有错误码。

二、为什么现有的监控看不见

Gartner 的调查里还有三个数字:55% 的受访者说现有的 IT 风险工具“完全过时”,只有 15% 装了自动熔断,能在智能体陷入失控循环时把它停住;如果没有强治理,到 2028 年,40% 规模化使用 AI 的 I&O 组织会遭遇一次业务关键的服务中断。

这三个数字背后是同一个结构问题。传统系统失败时会报错,智能体失败时往往“成功”返回;传统系统有明确的责任人,智能体挂在一个服务账号上;传统系统有变更窗口,智能体 7×24 在跑。用看服务器的方式看智能体,能看见的只有它还在不在,看不见它做得对不对。

记录之所以难,还因为它要求每一个动作都有业务主语。很多智能体项目上线时,只申请了一个 API key,连 owner 都没写进资产表。出了事,能查到的只有一个调用记录和一堆 token 数,查不到“它是替谁在干活”。

Nathan Hill 在新闻稿里的判断是,智能体不是另一种自动化脚本,它需要一套主动的基础设施治理方法。报告给了七根柱子:身份、护栏、可观测、智能体 FinOps、升级、围堵、数据边界。

七根都重要,但如果只能先立三根,我会选身份、可观测、围堵。理由不是它们最先进,而是它们都指向同一样东西:记录。没有身份,记录不知道是谁;没有可观测,记录不知道做了什么;没有围堵,记录只能事后看,救不了当下。

三、Oracle 把配置写成技能,然后加了一道人工批准

10 月 26 日,Oracle 在 AI World 上发布了 Fusion Setup and Configuration Registry(FSCR)。11 月 19 日,Fusion Insider 又发了一篇导读,把用法讲得更清楚。

它是一个公开的 Git 仓库,把 Oracle Fusion 的配置知识做成机器可读、可执行的 AI 技能,覆盖配置选项、依赖关系、执行顺序、测试和验证。AI 助手或编码智能体可以读业务需求、流程文档、政策和现有配置,把它们翻译成实施 runbook,然后直接在 Fusion 里规划、执行、测试、验证。

这份新闻稿里最值得注意的不是“AI 能配 ERP 了”,而是后面半句:专家可以检查已完成的配置、要求调整、批准部署。

Oracle 没有让智能体自己说了算。它把“执行”做得很快,同时把“批准”留给了人。这个分工,比任何一句“人机协同”的口号都具体。

Oracle 应用开发执行副总裁 Chris Leone 的解释是,客户和伙伴过去每做一次实施,都要重建一遍关键配置知识,或者依赖很快会过时的静态文档。FSCR 想解决的是知识复用,不是替代签字。

对做 ERP 实施的人来说,这件事的启发不在技术,而在交付物的形态。过去交的是文档、截图、操作手册;现在要交的是可执行的配置技能、对应的测试用例、每一项的批准记录。这三样东西,恰好也是事故发生时能拿出来重建现场的材料。文档只能证明“我们说过”,测试和批准才能证明“我们验过”。

四、跨组织的时候,身份问题更硬

11 月 19 日,武汉智能体可信互联中心启动试运行,落户东西湖区,由中国信通院发起运营,是继北京、厦门、重庆之后中部地区的节点。信通院华中研究院副院长黄子沛的比喻是,给智能体发“网络身份证”和“门牌号”,用统一标识把它和开发者、运营者、责任主体关联起来。

这个中心要回答四个问题:它是谁、代表谁、可以做什么、出了问题谁负责。

这四个问题在企业内部同样成立,只是内部可以靠制度——账号谁开的、权限谁批的、出了事找哪个部门。跨组织不行,两家公司的智能体互相调用,靠邮件和口头承诺说不清楚。所以行业先做的,是把身份变成可验证的标识。

顺序别搞反。内部四问答不清楚的企业,接外部网络只会把混乱放大。先把“谁开的账号、能做什么、谁负责”写下来,再谈互联。

五、在 Odoo 里,怎么让事故留下痕迹

ERP 是智能体最愿意动手的地方,因为这里有单据、有金额、有审批。也正因为如此,它最适合承担“事故台账”的角色。下面这张表按动作类型分,不按工具分。

智能体要做的动作事前谁批事中留什么事后怎么回滚
读数据、出报表不逐次批,一次定授权范围查询与导出记录收回权限
建单、改单按金额和状态设审批节点单据 chatter + 字段跟踪取消单据或冲销
改配置、权限、主数据必须人工批,最好双人复核配置变更单 + 前后值按配置基线回滚

落到 Odoo 的具体做法,有五件事值得先做。

  • 专用服务账号,配记录规则。给智能体开独立的 res.users,按岗位配组和 ir.rule,不复用管理员账号。账号的名字要能看出来是哪个智能体,不要叫“自动化”。
  • 关键字段开跟踪。Odoo 的 mail.thread 会把字段变化写进 chatter,谁改的、什么时候、从什么改成什么,都在里面。注意两个绕过口:直接写 SQL 不走 ORM,以及带 tracking_disable 上下文的写入,都不会留下跟踪记录。
  • 配置类改动走审批。把开关值放进 ir.config_parameter,改动通过审批单(企业版 Approvals;社区版可用 OCA 审批模块或自定义状态机)走一遍,保留变更前后值。字段级的审计可以再加一层 OCA 的 auditlog。
  • 附件替换要单独记。图纸、模型文件、烧录包的替换,在 Odoo 里是附件的增删,不会自动进 chatter。要么给附件加版本号和变更说明,要么把关键文件挂到带跟踪的记录上,别让“换了哪一版图纸”变成无头案。
  • 分析类智能体只给只读副本。报表、问数这类场景,让它连只读库,别在主库上给写权限。权限一旦给出去,收回来往往比给出去难。

六、事故台账五问

不用急着买治理平台。先用五个问题测一下现在的底子。这五个问题都是事后视角,答不上来,说明记录没留够。

  • 过去七天,它改过哪些单?范围能不能一次拉出来?
  • 其中哪几笔是人批准的?批准人是谁?
  • 有没有一笔改完没生效,或者生效过头?
  • 当时用的规则、提示词、知识库是哪一版?
  • 如果现在要它停,几步能停?停的是它,还是整条业务线?

五问里如果有三问答不上,先补记录,别急着上平台。平台解决的是“看见”,记录解决的是“有东西可看”。

台账本身不用复杂。五个字段就够:时间、动作、影响、怎么发现的、怎么恢复的。每周扫一眼分布,会看到一些在周报里永远不会出现的东西——比如某个智能体每周五下午都会多改几张单,因为那天有批量价格调整;比如某类错误总是由人工复核兜住,所以从来没进过故障统计。这些规律比一份治理框架更能告诉你下一步该改哪儿。

一个可以这周就做的动作:回放测试。随机抽一条智能体写过的单,在测试环境里按当时的规则重放一遍,看能不能得到同样的结果。得不到,说明规则、数据、模型至少有一个没有版本化。这比任何一份治理方案都更能说明问题。


Gartner 那份调查里,最值得抄下来的不是 95%,是 70%。95% 说明事故很普遍,70% 说明我们连“什么算事故”都还没统一。

智能体不会因为被信任就变安全,它只会因为被记录而变得可管理。给它一个名字,给它一本台账。事故有了名字,治理才算开始。

文中数据来源:Gartner 2026-11-16 新闻稿《Gartner Says Weak AI Governance Will Lead to Business-Critical Service Disruptions for 40% of I&O Organizations by 2028》(298 位美英 I&O 负责人,2026 年 6–7 月调研;95% 事故率、70% 安全边界认知、57% 治理薄弱、55% 风险工具过时、15% 自动熔断、40% 预测;Nathan Hill 引语与七项治理要点);Oracle 2026-10-26 新闻稿及 Fusion Insider 2026-11-19 导读(FSCR 公开 Git 仓库、配置技能、专家复核与批准部署、Chris Leone 引语);湖北日报 2026-11-20 关于武汉智能体可信互联中心试运行的报道(中国信通院发起运营、黄子沛“网络身份证/门牌号”表述与四个问题)。Odoo 模型与字段以 17 至 19 版为例,20 版可能调整,实施前请核对官方文档;文中三类事故为常见情形的合并描述,不对应单一企业。

众谛信息 · 企业管理数字化观察 · 文中企业案例引自公开报道,未附第三方审计。

关于我们

​我们致力于帮助中小企业实现数字化转型,我们的团队由一群充满激情和创新思维的专业人士组成,他们具备丰富的行业经验和技术专长。

扫一扫获取顾问以及手册

登录 留下评论
产品里装了一段会升级的代码,BOM 该怎么写