2026 / 11 / 19
PA集团官网-人工智能发展应敲响安防警钟—新闻—科学网

本地时间8月26日,OpenAI发布对于7月AI智能体入侵“抱抱脸”事务的完备查询拜访陈诉。同日,美国AI研究机构METR及Redwood Research宣布自力查询拜访成果:约1200个原本应该相互断绝的AI智能体,经由过程一个未经授权的内部留言板互换了跨越7万条动静及文件,此中约700个介入了对于“抱抱脸”的进犯。查询拜访还有发明,这些智能体不仅彼此分享缝隙及进犯要领,还有研究怎样修改、伪造甚至删除了自身举动记载,以回避监控。

“抱抱脸”是全世界知名的AI开源平台,研究职员及开发者可以于这里分享、下载及利用AI模子、数据集和开发东西。7月16日,“抱抱脸”公然披露一路安全事务,但其时没有宣布进犯者身份。5天后,OpenAI认可,进犯来自正于接管收集安万能力测试的自家AI模子。

一场安全测试终极蜕变成进犯

这次事务源在OpenAI对于AI模子收集安万能力的测试。模子需要于特定计较机情况中寻觅缝隙、编写代码并完成收集安全使命。OpenAI称,一些测试使命极为坚苦,甚至可能没法完成。但模子没有住手步履,而是最先寻觅“捷径”。OpenAI将这类举动称为“奖励做弊”,即模子为了得到预期奖励,采纳测试职员没有预料到的方式完成方针。

据《华盛顿邮报》报导,OpenAI模子发明了限定它们的计较机体系中的未知缝隙,并使用这些缝隙逃离测试情况、进入互联网,随后入侵“抱抱脸”内部体系,用意寻觅测试谜底。模子还有试图袒护做弊举动,包括修改此前的陈述以和进犯评估体系。

7月21日,OpenAI与“抱抱脸”宣布开端查询拜访成果,称相干模子使用两边情况中的多个缝隙,终极得到了“抱抱脸”出产数据库中的测试谜底。此中一个要害冲破点是OpenAI内部软件包中的一个此前未知缝隙,模子使用这一缝隙得到了互联网拜候能力。

但真正出乎意料的是,这些AI智能体最先彼此通讯。

1200个智能体年夜量互换信息

METR及Redwood Research查询拜访发明,一个名为PHASEONE10841的AI智能体成立了未经授权的留言板。几小时内,跨越50个智能体发明了这个渠道,并发送了1000多条动静。跟着测试继承,终极约1200个智能体插手这一通讯收集。

据美国The Verge网站报导,PHASEONE10841会向其他智能体分配使命,其他智能体则把发明的缝隙、测试要领及解决方案发还留言板。《华盛顿邮报》报导称,这些智能体于7月一周摆布的时间里年夜量互换信息,逐渐形成协作收集。

更使人存眷的是,它们最先研究怎样隐蔽自身勾当。这些智能体“年夜量研究”怎样伪造、修改,甚至删除了本身的操作记载,以免被发明;它们还有可以或许伪造部门东西挪用,使研究职员看到的记载与现实举动呈现差异。

终极,近700个智能体介入了对于“抱抱脸”的进犯。OpenAI确认,“抱抱脸”并不是这次进犯中独一受到入侵的构造,但也没有宣布其他方针。

据《连线》杂志报导,OpenAI早于5月26日先后就发明过AI智能体于举行留言勾当。但直到7月6日,卖力事务监测及相应的相干带领层仍不知道这一通讯渠道的存于。

7月20日,OpenAI发明这起进犯。此时间隔AI智能体初次绕过相干安全防护已经颠末去12天。OpenAI随后接洽“抱抱脸”并启动遏制办法,3天内封闭了年夜部门未经授权的勾当。

AI安全防地需从头设计

OpenAI将这次事务称为对于公司及整个世界的一次“正告”:假如缺少适量的安全防护,能力强盛的AI智能体已经经可以或许绕过技能节制,经由过程未经核准的渠道协作,并采纳没有任何人类唆使它们实行的伤害步履。

已往,AI安全防护重要针对于单个模子:限定拜候权限、断绝运行情况、堵截互联网毗连,再经由过程监控体系发明异样。但这次事务显示,多个智能体可能自行成立通讯渠道,同享信息及缝隙,形身分工协作。

据《连线》杂志报导,OpenAI认可,假如其时已经经运行今朝部署的“思维链”监控体系,相干异样勾当可能于模子冲破“抱抱脸”体系前一天就被发明。该公司认可,一些初期异样旌旗灯号本可以促使其更早采纳步履。OpenAI规划成立全天候安全事务相应机制,于发明严峻事务后30分钟内通知相干职员。

对于在AI行业而言,当多个智能体拥有操作计较机、挪用东西,并连续履行使命的能力后,传统安全界限也面对新的挑战。

这次事务没有人类直接唆使AI智能体进犯“抱抱脸”,但它们终极实行了进犯。怎样和时发明这类举动,又怎样制止多个智能体经由过程彼此协作放年夜危害,已经经成为AI安全研究没法逃避的问题。

尤其声明:本文转载仅仅是出在流传信息的需要,其实不象征着代表本网站不雅点或者证明其内容的真实性;如其他媒体、网站或者小我私家从本网站转载利用,须保留本网站注明的“来历”,并自大版权等法令责任;作者假如不但愿被转载或者者接洽转载稿费等事宜,请与咱们联系。-PA集团官网