掌握自己熟知的 探索未来需要的
11月4日,2026年世界互联网大会乌镇峰会“智能体互信互联互操作全球合作创新——携手构建智能互联网论坛”正式发布《智能体发展自律公约》。它是落实《智能体规范应用与创新发展实施意见》“强化行业自律”任务的具体举措,由中国信息通信研究院联合腾讯、蚂蚁、阿里、抖音、华为、小米等智能体生态主体,在中国网络社会组织联合会等组织下共同起草发布。八条自律措施,读下来更像一份给全行业的“行为规矩”。
| 自律措施 | 要点 | 对企业的启发 |
|---|---|---|
| 信任体系 / 互联基础设施 / 互操作 | 健全信任体系、建设互联基础设施、提升互操作水平 | 智能体要能被识别、能协作,别做成孤岛 |
| 安全防护能力 | 前瞻性风险评估、运行监测、行为管控、异常熔断;保障模型/插件/技能来源可靠;共建风险信息共享与联合处置 | 上线前要有熔断开关和异常处置预案 |
| 治理机制 / 合规内嵌 | 发展规则表达与内嵌、合规性测试;确保遵守法律法规与公序良俗;抵制算法压榨、黑灰产 | 把合规写进流程,而不是出事再补 |
| 用户权益 / 赋能 / 普惠 | 保障知情权、选择权和对重要事项的最终控制权;防范个人信息滥用、过度迎合、认知操纵;加强未成年人老年人保护 | 重要动作必须把最终决定权留给人 |
公约对风险的列举相当具体:持续防范人工智能内生缺陷与外部攻击引发的智能体越权操作、隐私泄露乃至行为失控等安全风险,打造安全可控的产品服务;同时保障用户知情权、选择权和对重要事项的最终控制权,防范个人信息滥用、过度迎合、认知操纵。这与前几日工信部《关于加强智能体终端设备进网管理的通知》形成了有意思的呼应——一边是政府把进网、适配、身份码、涉诈评估写成监管要求,一边是产业界把异常熔断、来源可靠、最终控制权写成自律承诺。
第一,装好熔断开关。异常行为能自动暂停、能一键停用,并留有回滚路径。第二,把最终控制权留给人。涉及资金、对外沟通、客户数据变更的动作,强制人工确认。第三,查来源与留痕。模型、插件、技能来源可靠,任务指令与系统调用全程可查可核。