Back to HomeAI Insights

给能办事的AI戴上「紧箍」:20家企业联合公约,管的就是越权和隐私

当AI只是陪你聊天,出点岔子顶多是无伤大雅;但当它能替你下单、转账、改设置,问题就变了。今年11月的世界互联网大会乌镇峰会上,中国信息通信研究院联合腾讯、蚂…

Nov 21, 2026 4 min read 7

当AI只是陪你聊天,出点岔子顶多是无伤大雅;但当它能替你下单、转账、改设置,问题就变了。今年11月的世界互联网大会乌镇峰会上,中国信息通信研究院联合腾讯、蚂蚁、阿里、抖音、华为等20家生态主体,共同发布了一份《智能体发展自律公约》,把监管层的要求落成了行业共识。这份公约管的是什么,为什么此时出台,和普通人用AI又有什么关系,值得拆开讲清楚。

先弄明白:什么叫「智能体」

「智能体」这个词听起来专业,其实可以这样理解:普通AI助手是你问一句、它答一句,而智能体能够自己拆解任务、跨应用执行,一路把事情办到底。比如你说「帮我安排周末聚餐」,它要去查餐厅、看排片、发消息、叫车,中间可能调用地图、支付、社交等多个应用。能力越强,它需要拿到的权限就越多——定位、相册、通讯录、支付,甚至账号密码。风险也正是从这里开始的:一旦它在你不知情的情况下跨过边界操作,或者把个人信息交给不该拿的地方,责任怎么算就成了难题。

为什么要立规矩:三个越来越现实的烦恼

这次公约的出台有清晰的政策脉络。今年5月,国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》,首次在专项政策层面明确提出「强化行业自律」的任务部署。到了11月,随着智能体的自主任务执行和多智能体协同能力明显提升,跨平台调用、权限委托、责任追溯这些问题,已经超出任何一家企业能单独管住的范围。附近出现了几类典型烦恼:有的智能体仿冒真人形象、过度进行情感诱导;有的在办事过程中越权操作、泄露隐私;还有的被黑灰产利用,搞算法压榨。更复杂的在于,开发者、部署者、使用者之间的责任链条在一连串自动操作中变得模糊,「出事到底谁负责」被悬置起来。

在这种背景下,公约的作用被定位为填补规则空白。中国信通院知产创新中心产业发展与合规治理研究部主任张夕夜在接受媒体专访时表示,一方面,公约有助于为企业的治理探索提供基础参照和方向指引;另一方面,也可以在实践中总结经验、定期评估、适时修订,保证时效性和适用性。她提到,那些直接关系到安全、公序良俗和用户权益的底线要求,比如防范智能体越权操作、抵制利用智能体实施算法压榨、保障用户对重要事项的最终控制权,未来更有可能转化为强制性要求。

光有公约还不够,标准正在路上

行业自律解决的问题是「大家先约定怎么做」,但真正要让规矩落地,还需要可衡量的标准。据介绍,中国信通院目前正围绕权限管理、行为边界、个人信息保护、内容安全等维度,研究智能体合规性评价的共性方法与框架,同步推进相关标准研制。换句话说,未来一个智能体是否「守规矩」,可能会有更明确的评价尺子,而不只是靠企业自觉。这也符合监管层近期的整体思路:从倡导性文件,逐步走向可操作、可核查的具体规范。

需要客观看待的是,自律公约本身并不具备法律效力,它更像是行业在强制性规则出台前的一次自我约束。它的价值在于先把共识建立起来,为后续的标准和治理提供基石。对普通用户来说,公约带来的直接保护短期内未必立竿见影,但它至少明确了几个方向:智能体不该越权、不该过度诱导情感、用户要对重要事项保留最终控制权。这些原则一旦成为行业默认做法,体验上的改善会慢慢显现。

能力越强,边界越重要

把视野放宽,智能体的快速普及是这两年AI发展的主线之一。从手机厂商把助手放到系统第一屏,到互联网公司让AI帮用户缴费、订餐、叫车,助手正在从「回答问题」走向「替你办事」。这个转变的吸引力显而易见:省时间、少切换、流程更顺。但另一面同样真实——交给AI的操作越多,用户对过程的可见度就越低,一旦出错,纠正成本也越高。所以在能力竞赛之外,权限怎么给、边界怎么划、责任怎么分,正在成为和模型性能同等重要的问题。这次20家企业联合立约,可以看作行业对这一变化的集体回应。

从时间线看,这件事还在早期。5月的政策文件提出了方向,11月的公约达成了共识,接下来是标准研制和可能的强制要求。对用户而言,最现实的态度是既不必因为「AI会闯祸」就拒绝使用,也不要把重要操作完全交出去不管。技术能办事是好事,但把关键一步留给自己确认,永远是更稳妥的习惯。

跟你有啥关系:用能办事的AI助手时,给权限要「够用就好」——定位、相册、通讯录、支付,用不到就别一次性全开,用完可以在系统设置里收回去。涉及转账、下单、改密码这类重要操作,务必自己再点一次确认,不要让AI全自动完成。遇到AI客服或助手自称是某个品牌、用很亲密的话术拉近关系时留个心眼,涉及钱财一律回到官方App核对。发现越权或乱扣费,保留截图并向平台投诉。