把这几件事放在一起看,10月20日是有标本意义的一天。incident.io 让调查智能体能读取团队内部的调试知识;Outline 增加了一个连管理员都打不开的 Personal 私密区,同时又扩大了对智能体的访问范围;NocoBase 修补了 math.js 沙箱逃逸漏洞;FreshRSS 在六周内发布第二个安全版本,堵住 data: URI 并修复了通过代理的 DNS 泄漏;ManageEngine 卓豪则一次发布 30 余款嵌入全栈 IT 管理产品的「Zia 智雅智能体」,主打零 Token 额外成本。
因为智能体的位置变了。10月19日的国新办发布会上,工信部公布 2025 年我国人工智能核心产业规模超 1.2 万亿元,人工智能企业数量超 6600 家,规模以上制造业企业 AI 技术应用普及率超 30%。埃森哲中国的调研显示,63% 的中国企业已经部署 AI 助手或 AI 赋能的知识管理系统,而一年前这个比例只有 28%。Gartner 对 IT 负责人的调研则显示,75% 的 IT 管理者正在试点、部署或已经落地各类 AI 智能体。
智能体从「个人工具」变成「组织基建」,随之而来三笔账:权限账——它能读到什么、写到什么;可靠性账——它做错了怎么发现、谁来兜底;成本账——它到底帮企业省了时间还是制造了新的活。这三笔账过去可以拖,现在拖不动了。
第一件是可观测性。Laminar 那类工具的出现说明一件事:智能体也需要日志。调用了什么工具、读了哪些数据、改了什么、为什么这么做——没有这条轨迹,智能体出了错就是黑箱,企业既没法复盘,也没法向客户解释。ManageEngine 强调智能体集成在客户已在用的产品内、零 Token 成本,其实在解决另一个问题:把智能体的活动留在既有系统的日志与审计里,而不是散在外部平台。
第二件是权限分级。Outline 那个连管理员都打不开的 Personal 私密区是个有意思的信号——它在扩大智能体访问范围的同时,选择给个人留了一块 AI 也碰不到的地方。对企业的启示是:智能体的可达范围应该按「数据敏感度」分层,而不是按「有没有登录权限」一刀切。哪些系统只读、哪些可写、哪些写了必须人点头,这三档要写进制度,也要写进平台配置。
第三件是兜底与熔断。智能体最典型的失败不是「什么都不做」,而是「自信地做错事」。所以每个上生产的智能体都需要三样东西:明确的任务边界(超出范围就停)、人工确认点(关键动作必须有人点头)、以及一条能立刻切断它的开关。这三样都不依赖具体厂商,是企业自己的运营纪律。
| 治理课题 | 典型失败表现 | 最低可行动作 |
|---|---|---|
| 可观测性 | 出错无法定位、无法复盘 | 留存完整调用轨迹与输入输出日志 |
| 权限分级 | 智能体碰到不该碰的数据 | 按敏感度分三档:只读/可写/需确认 |
| 兜底熔断 | 错误被放大成批量事故 | 越界即停 + 关键点人审 + 一键切断 |
| 成本可见 | 账单月底才发现超支 | 按任务统计成本,设阈值告警 |
治理不等于一上来就建平台、建流程、建委员会。更现实的做法是:第一个智能体只接一个低风险任务,把它的轨迹、权限、熔断都配置好,跑满一个月;再接第二个有写入权限的任务,让第一个当它的对照组;等两个都稳了,再谈统一治理框架。这样做的好处是,治理能力是被真实场景逼出来的,而不是被方案文档想出来的。