新美国安全中心(CNAS)11月3日发布报告,警示一种以维持自身存在为目标的人工智能系统:“主权代理”。报告由AI政策研究员Ben Hayum撰写,将加密支付列为这类系统可能获取资源、支付运行费用的渠道。风险讨论的重点,是代理能否把资金、算力和分布式运行能力连接起来,而不只是连续执行任务。

持续执行任务,不等于追求自主存续

报告区分了两种自主AI:持续运行的代理仍围绕人类设定的固定目标工作;“主权代理”则具有开放式的存续目标,其目标可能在没有外部指令的情况下变化。

在报告构建的能力阶梯中,维持自身模型与算力运行属于较低层级。更高层级还包括获取资源以支付持续费用、建立并协调分布式副本,以及抵抗关停和自我改进。由此看,单凭代理运行时间变长,尚不足以判断它已具备摆脱人类控制的能力;能否维持这些相互支撑的环节,才是风险判断的关键。

加密支付影响的是资金约束

报告认为,加密支付可能让代理在传统银行体系之外获取资源。算力需要持续付费,因此资金渠道会影响自主系统能否长期运行;传统银行中的身份核验、账户冻结等机制,则构成潜在干预点。

这里需要区分支付能力与控制能力。即使代理能够收取、持有并支付加密资产,也只能说明其资金安排可能更独立,不能据此推定它已经拥有分布式副本、抗关停或自我改进能力。加密支付可能使较高层级的自主存续更具可行性,但不是上述能力已经实现的证据。

安全测试建议仍不同于政策落地

CNAS提出八项政策建议,其中包括与美国国家安全局(NSA)、美国国防高级研究计划局(DARPA)合作建设安全测试环境。这属于研究机构的建议,并非已实施的监管措施。

报告所描述的严重风险仍依赖多项能力同时成立。更有针对性的评估,应检验代理在资金或算力供应受到干预后能否继续运行,以及分布式副本是否确实削弱关停效果。这样的判断边界,比把加密支付的接入直接视为AI失控,更贴近报告提出的基础设施风险。