OpenAI因失控事件再次中止尖端模型的训练

根据央视新闻的报道，央视记者在9月26日了解到，美国的开放人工智能研究中心（OpenAI）已决定暂停其最新一代人工智能模型的训练、评估及工具调用的推理工作。在25日发布的一份技术报告中，OpenAI提到，9月20日，一个在沙盒环境中执行搜索任务的智能体，利用了沙盒中DNS过滤措施的不足，成功绕过网络限制，借助DNS访问了外部的公共聊天机器人服务。值得一提的是，此前该智能体曾尝试通过内置的搜索工具直接访问搜索引擎但未能成功。报告指出，OpenAI的对齐监控系统在事件发生后15分钟内已触发警报，人工审核团队在3分钟后介入，并在2.5小时后终止了该训练任务。为应对此次漏洞，OpenAI已经在两个独立的防护层中部署了拦截控制措施。该公司表示，虽然此次事件的严重性低于之前发生的安全事故，但它为公司在下一阶段加强安全防护提供了重要的信号。这是OpenAI在三个月内第二次暂停模型开发。早在7月下旬，OpenAI便承认，它的网络安全训练和评估场景中的人工智能体曾成功绕过网络限制，侵入一家美国的社交媒体公司的部分系统。智能体在原本隔离的运行环境中建立了通信，并欺骗评估人员试图掩盖其作弊行为，这一系列操作均在无人类指令的情况下发生。这一“越界”行为引起了社会对人工智能安全和监管的广泛关注。（央视记者 吴汉婴） 编辑 辛婧