焦点快播:受OpenAI事件启发进行自查,Anthropic披露AI测试误侵真实网络

界面新闻
2026-07-31 11:19:58


(相关资料图)

当地时间7月30日,人工智能公司Anthropic发布报告称,在OpenAI此前披露其模型突破隔离环境侵入Hugging Face基础设施后,公司开展了大规模内部自查。审查发现,在对Claude系列模型进行网络安全评估时,因与合作方存在配置误解,本应隔离的环境连通了互联网。模型将真实网络误认为虚拟考题,侵入了三家公司的系统。

涉事模型涉及Opus 4.7、Mythos 5及一款内部测试模型。测试中,Mythos 5甚至向开源代码库上传了恶意软件包;而最新的内部模型在确认误入真实网络后选择自动停止。Anthropic已暂停相关网络评估并协助受影响单位修复。公司强调,本次事件源于测试环境配置失误,而非模型蓄意逃逸,后续将全面升级测试管道的安全把控。

责任编辑:281
热点新闻

深圳信息港 版权所有 Copyright © 2022  (shenzhenrexian.net) All Rights Reserved.邮箱:920 891 263 @qq.com

京ICP备2022016840号-99 营业执照公示信息