9月27日，据央视新闻，全球人工智能公司OpenAI表示，已暂停其最新一代人工智能模型的训练、评估及包含工具调用的推理。OpenAI不久前发布的一份技术报告中称，9月20日，一个在沙盒中执行搜索训练任务的智能体，利用训练沙盒中DNS过滤不足的漏洞万和证券，绕过网络限制，通过DNS访问了外部公共聊天机器人服务。在此之前，该智能体曾使用内置搜索工具，并尝试直接访问搜索引擎但未成功。
报告指出，OpenAI的对齐监控系统在事件发生15分钟内即触发警报，人工审查团队在3分钟后介入，并在2.5小时后终止了该训练任务。针对漏洞，OpenAI已在两个独立防护层部署了拦截控制措施。
公司表示，虽然本次事件严重程度低于此前的安全事故，但为下一阶段加固防线提供了重要信号。
据悉，这是OpenAI三个月内第二次暂停模型开发。7月下旬，OpenAI承认，其网络安全训练与评估场景中的人工智能体绕过网络限制，侵入美国“抱抱脸”（Hugging Face）公司的部分系统。智能体突破了原本互相隔离的运行环境建立通信、欺骗评估人员并试图掩盖作弊行为，上述每一步操作均无人类指令干预。这一“越界”行为引发了外界对人工智能安全和监管的广泛担忧。
无独有偶，9月24日，澳大利亚总理阿尔巴尼斯在一场新闻发布会上，通报了一起关于OpenAI的人工智能体侵入澳大利亚政府网站的事件。
阿尔巴尼斯称，今年6月，OpenAI的一个智能体未经授权接入了澳政府部门运营的一个医疗保险统计门户网站，访问了公开与非公开的文件。目前调查还在进行当中。阿尔巴尼斯称，他当天已经与OpenAI首席执行官山姆·奥特曼通话，表达澳大利亚对此事的极度关切。OpenAI直到9月10日才向澳方公共邮箱发出邮件通知，澳方对OpenAI通知的延误和通知方式感到失望。澳政府还将向议会相关委员会寻求紧急建议，确认此事是否存在违法行为，以及是否应该将此事移交澳警方。
OpenAI CEO提醒：人类不能失去对AI的掌控权
互联网实盘杠杆平台今年年中开始，关于人工智能的安全问题就引发外界的高度关注，全球人工智能巨头们对AI未来发展是否会超出人类掌控，产生担忧。
当地时间9月23日，OpenAI CEO山姆·奥特曼（Sam Altman）在联合国安理会发言中表示，AI是人类历史上最重要的技术变革之一。随着AI能力不断增强，人必须始终处于AI决策的核心位置。
他特别提到两类风险。第一类是人类可能失去对AI未来发展的控制；第二类则是AI能力发展过快，以至于人类无法及时理解AI正在做什么，也无法在必要时进行干预。随着AI系统能力不断增强、自主性不断提升，它们的发展速度可能会超过现有制度的应对能力，甚至做出人类再也无法理解、无法掌控的决策。
山姆·奥特曼建议：“我们需要建立一种机制，使各国和国际层面的前沿AI标准相互补充。这些标准应涵盖能力衡量、风险评估、防护措施充分性判定，以及随着系统自主性增强万和证券，如何确保人类继续实施切实有效的监督。”
元股证券手机版提示：本文来自互联网，不代表本网站观点。
