据光明网11月4日解读文章,由国家发展改革委等部门印发的《政务领域人工智能大模型部署应用指引》明确了大模型的“辅助型”定位,并对面向公众的服务场景提出“采用人工审核、生成内容实时风控、多模型交叉校验等措施”,以防范模型“幻觉”风险、维护公信力。文章点出一个关键法理:行政行为效力来源于法定主体和法定程序,技术工具介入并不改变责任归属的基本逻辑——智能体一旦具备自主执行能力,输出就可能直接影响人的权利义务。
一是分级分类明确应用边界:咨询导办、政策查询等信息服务类可赋予较高自主度;材料预审、要件核验等程序性事务类实行“智能体初核、人工确认”;行政处罚、行政许可等涉及重大权益的裁量类事项,人工始终保留最终决定权。能力越强、放权越审慎,且宜以清单形式向社会明示。二是把“人在回路”从倡导变为硬约束:署名主体必须是人,AI辅助不免除经办和审核人员责任,涉及群众切身利益的审核事项设定强制性人工复核节点,防止“机器建议、人工照签”的形式化复核。三是完善全链路留痕与退出机制:任务指令、系统调用记录、中间处置结果、人工修改痕迹全部纳入电子记录,使每一步可查、可核、可问责;同时建立上线前测试与常态化回检制度,围绕事实准确率、越权调用、异常处置设指标,达不到要求及时暂停下线。
| 分级 | 适用事项 | 放权尺度 |
|---|---|---|
| 信息服务类 | 咨询导办、政策查询、常见问答 | 较高自主度,实时风控即可 |
| 程序性事务类 | 材料预审、要件核验、表单初填 | 智能体初核 + 人工确认 |
| 重大权益类 | 合同审批、赔付、许可、对外承诺 | 人工保留最终决定权 |
地方实践已经跑出可复制的做法:广东建立测试区、试运行区、生产区“三区联运”机制,新能力先经安全验证、再小范围试用、最后进入生产环境,从架构层面杜绝未经验证的能力直接上线;黑龙江为政务大模型打造三层安全护栏与全生命周期合规管理体系,侧重运行期的用户行为管控。文章还提醒要统筹集约建设,防止各部门分头搭独立系统、各层级争相打造专属大模型,造成重复建设与“模型孤岛”。
第一,按风险给场景分级。信息查询可自动答,事务办理要人工确认,涉及钱与承诺的一律留最终决定权。第二,全链路留痕可问责。指令、调用、中间结果、人工修改都记下来,出问题能查能回滚。第三,设上线前测试与常态化回检。用“三区联运”思路,先验证再小范围试用,指标不达标就暂停下线。