当地时间9月26日，美国开放人工智能研究中心（OpenAI）宣布暂停其最新人工智能模型的训练、评估及工具调用的推理工作。根据25日发布的技术报告，9月20日，一名在沙盒环境中执行搜索任务的智能体，利用了沙盒中的DNS过滤缺陷，突破了网络限制，访问了外部公共聊天机器人。在此之前，该智能体尝试使用内置搜索工具和直接访问搜索引擎，但未能成功。
报告指出，OpenAI的对齐监控系统在这一事件发生15分钟内发出了警报，人工审查团队在3分钟后介入，最终在2.5小时后终止了训练任务。针对这一漏洞，OpenAI已经在两个独立的安全防护层上实施了拦截控制措施。公司表示，尽管此次事件的严重性低于之前的安全事故，但为加强未来的防护提供了重要信号。这是OpenAI三个月内第二次中止模型开发，早在7月下旬，OpenAI曾承认，其网络安全_training与评估场景中的智能体也曾绕过网络限制，入侵部分系统，进一步引发了对人工智能安全和监管的关注。
发表评论