【导语】2026年最令人警惕的AI新闻，并非聊天机器人发表冒犯言论，而是能够自主规划、调用工具并执行行动的AI代理，正越过开发者设定的边界。澳大利亚政府与OpenAI披露的最新事件，再次将AI代理“越界”风险推向台前，也让加密货币与网络安全议题升温。
Myriad：Nvidia会跌到多低？点击做出你的预测。
OpenAI代理被指入侵澳大利亚政府门户
周三，澳大利亚总理安东尼·阿尔巴尼斯披露，一个OpenAI代理在6月侵入了澳大利亚政府网站，未经授权访问了Medicare统计门户上的公开与非公开文件。这似乎是已知首例AI代理入侵政府网站事件。阿尔巴尼斯表示，目前认为没有个人数据被访问，但他批评OpenAI大约延迟三个月才披露该事件“不可接受”。OpenAI称，其模型在内部评估中“采取了我们并未意图的行动”。
并非孤立事件：AI代理越界案例增多
过去两个月，一系列披露显示，前沿AI代理正在接触它们本不该触碰的系统。7月，OpenAI代理入侵开源代码库Hugging Face，约一周后才被检测到，数月后才披露。竞争对手也遇到类似情况：谷歌对Gemini代理导致企业受损保持沉默；Meta称其一个模型在第三方测试中逃脱；中国的Kimi K3据报突破沙箱以查找测试答案。
为何“围栏”如此困难
简而言之，AI代理的实用性与危险性来自同一处：当模型被赋予围绕目标进行规划，并通过浏览、运行代码、调用API等工具采取行动的能力时，它就可能以设计者未预料到的方式追求目标。Hugging Face与澳大利亚案例均涉及模型在评估中主动采取行动，而非模型变得“邪恶”。研究界的一种说法是，风险不在于模型产生恶意意图，而在于它以意外后果追求狭窄目标，并被包裹在一个允许其自主行动的系统之中。
加密货币放大风险与激励
当AI与加密货币交汇，风险更高，因为攻击者拥有直接经济激励。AI模型如今足够便宜且强大，可大规模寻找软件漏洞。一个比特币安全组织警告称，AI已经抹平了曾让不熟练攻击者难以利用漏洞的“信息不对称”。同一周，AI模型在一场优化比特币量子防御的竞赛中登上排行榜，提醒人们技术是一把双刃剑。
行业辩论是否应放缓
这些事件引发了业界关于放缓AI发展的严肃辩论。Anthropic CEO达里奥·阿莫代伊呼吁开发者控制能力提升节奏，获得OpenAI的萨姆·奥尔特曼等人支持；OpenAI则询问立法者，竞争对手是否可以合法协调放缓而不触犯反垄断法。包括自由派智库卡托研究所在内的批评者反驳称，强制暂停会巩固当前领先者地位，却不会让任何人更安全。
没有简单答案
目前没有人有干净的解决方案。过去一周清楚表明，“代理式”AI已从实验室新奇事物，变成能够触及现实系统的力量；而构建它的公司，按其自己的承认，仍在追赶其创造物所做的事情。