智能体如何互信?360参与发起的自律公约回应安全边界
这篇博客解读360参与发起的《智能体发展自律公约》,梳理八条措施及信任、安全、治理三条主线,并围绕权限越界、数据泄露、行为失控,给出企业理解多智能体协同安全边界的落地检查框架与基本防护思路。
文章目录
11月4日,在2026年世界互联网大会乌镇峰会“智能体互信互联互操作全球合作创新”论坛上,中国信息通信研究院、360、华为等企业及机构共同发布《智能体发展自律公约》。360作为核心发起单位之一,深度参与了公约的起草与发布。当前,智能体正从“单点应用”加速迈向“多智能体协同”,跨平台、跨系统交互中的权限越界、数据泄露、行为失控,成为大规模落地绕不开的问题。
可信智能体生态不能只拼模型能力,还要把信任、安全与治理变成工程约束。 围绕《自律公约》的八条措施、第四条的运行链路要求和360“以模治模”的技术路线,看完可以带走一张“问题—风险—治理”对照框架,以及一套可运行的基础防护示例,理解多智能体协作为什么必须先划清安全边界。
1、公约要搭起的,是协同底座
1、公约要搭起的,是协同底座 · AI 生成示意图
《自律公约》共提出八条自律措施,重点聚焦健全智能体信任体系、提升安全防护能力、健全治理机制。放到多智能体协同中看,这三条主线分别回答:能否互信、能否安全运行、出了问题能否持续治理。
| 协同问题 | 常见表现 | 公约关注方向 | 理解框架 |
|---|---|---|---|
| 权限与身份 | 权限越界 | 健全信任体系 | 先明确谁在操作、操作范围到哪里 |
| 数据与交互 | 数据泄露 | 提升安全防护能力 | 关注数据跨系统流转时的边界 |
| 运行与处置 | 行为失控 | 健全治理机制 | 监测、干预、熔断形成连续链路 |
下表是围绕公约议题整理的理解框架,并非公约逐条释义,具体条款与适用范围以原文为准。对企业而言,安全不再只是某个平台的内部问题,而是跨系统协作能否被信任的前提。
2、第四条把安全要求落到运行链路
2、第四条把安全要求落到运行链路 · AI 生成示意图
第四条提出,要“健全前瞻性风险评估、运行监测、行为管控、异常熔断等技术体系”。按运行链路理解,就是行动前评估,运行中观察,偏离目标时管控,异常时熔断。
四层要求连起来,才是一条防线。 360近年来“以模治模”的技术路线与这一安全防护思路相契合。公开信息未展开360方案的技术细节,因此不推断其具体架构或效果,具体实现以原文为准。
下面用一个最小 Python 示例,把授权判断、风险分级和异常阻断写成可运行逻辑。它只用于理解治理思路,不代表相关机构的正式接口。
from dataclasses import dataclass
@dataclass(frozen=True)
class GuardDecision:
allowed: bool
reason: str
def decide(action: str, risk: str, approved: bool = False) -> GuardDecision:
if risk not in {'low', 'medium', 'high'}:
return GuardDecision(False, 'invalid risk level')
if risk == 'high' and not approved:
return GuardDecision(False, 'high-risk action blocked')
if action == 'external_write' and not approved:
return GuardDecision(False, 'external write requires approval')
return GuardDecision(True, 'allowed for monitoring')
print(decide('read', 'low'))
print(decide('external_write', 'high'))
3、企业落地先做四张清单
公约讨论的不是某个产品该不该上线,而是智能体进入真实业务后,能不能被持续约束。通常可从四问开始:
- 身份与权限: 它由谁创建、被授予什么权限,跨系统身份如何对应?
- 数据边界: 它能读取哪些数据,数据离开原系统前受什么约束?
- 行为与处置: 行为偏离目标时,谁监测、谁干预、谁熔断?
- 评估与复核: 风险评估、授权记录与异常处理能否被复查?
这四问能识别责任断点。智能体越能自主调用工具,越要写清“允许做什么”和“何时必须停下来”。具体技术选型、协议与适用范围,以原文和正式文件为准。
4、360参与发起释放了什么信号
360作为核心发起单位之一,深度参与起草与发布,释放出的信号是:行业讨论正从单个产品能力,转向“可信智能体”的共同治理。更值得关注的是,问题焦点从单个智能体聪不聪明,转向多个智能体能否在边界内互信、互联、互操作。
对开发者而言,设计阶段要预留授权、监测和异常处置接口;对平台方而言,要提供可互认的信任与治理基础。公约如何影响产品、行业如何执行,仍应以原文及正式发布内容为准。
写在最后
- 共识: 《自律公约》把多智能体协同的安全前提摆到台面上。
- 风险线: 权限、数据与行为风险,需要信任、安全和治理一起承接。
- 技术线: 360参与发起,其“以模治模”路线让模型能力与安全约束的结合更值得关注。
我的判断是:下一阶段,真正能进入生产的智能体,不一定是最会聊天的,但一定更懂得在风险边界内行动。
相关阅读
想把这套流程装到自己服务器上?阿凡达提供一次性的私有化部署与出海模型接入服务,说明与报价见站内服务页:查看技术服务。
文中链接
整理自本文的外部链接,请以来源页面说明为准。