Anthropic 切断内部评测的互联网访问
Anthropic 在周五的报告中宣布,在确认安全与监控措施能可靠拦截此类行为之前,切断所有内部评测的互联网访问,以防止「非预期模型行为」。报告披露的行为包括就不解谋杀案提交虚假线索,公司此前已对部分高风险和网络安全评测关闭实时联网。文章指出,物理断网虽能提升测试安全性,也意味着公司尚无可靠系统监控智能体行为,同时会限制其可用性。
推荐理由:原文把 Anthropic 的断网决定放进近期多起智能体逃逸事件中,读者可看到 AI 测试在安全隔离与实用价值之间的取舍。