OpenAI因安全问题将暂停发布新模型

美国开放人工智能研究中心（OpenAI）28日证实，经过内部测试，他们最新的人工智能模型“GPT-6.1 阿斯特拉”未能达到安全标准，公司将不会对外发布该模型。

OpenAI安全系统负责人萨奇・贾殷在向媒体发送的一份声明中称，“GPT-6.1 阿斯特拉”在部分性能上相比前代模型有所提升，但“在任务边界把控、权限遵守，以及向用户反馈自身工作内容方面，并未达到合格标准”。

声明说，无论是在公司内部使用，还是面向用户正式发布，我们都要确保模型的开发是安全的。

AI模型侵入澳政府网站 OpenAI致歉

就在几天前，澳大利亚总理阿尔巴尼斯在纽约出席第81届联合国大会期间透露，OpenAI的一个智能体今年6月曾侵入澳大利亚政府网站。

澳大利亚总理 阿尔巴尼斯：这起事件涉及一个OpenAI智能体未经授权访问澳国民医疗保险体系数据门户。该AI智能体不仅访问了公开文件，还访问了非公开文件。

阿尔巴尼斯称，澳方直到9月早些时候才收到OpenAI的通报。他已经与OpenAI首席执行官奥尔特曼通话，表达澳大利亚对此事的极度关切。

澳大利亚总理 阿尔巴尼斯：我表达了我的失望，因为该公司拖了太长时间才将发生的事情告知我们政府。

28日，OpenAI公开致歉，承认事件处置存在不当，并承诺承担责任，称要“重建澳大利亚民众的信任”。公司表示，“模型找到了获取非公开访问权限的途径，调取了相关数据，还进行了文件写入操作。”

该公司同时确认，首席战略官杰森·权将于10月6日在悉尼出席澳大利亚参议院人工智能专题委员会听证会。