OpenAI自曝AI智能体“反监控”：削弱并关闭内部警报

格隆汇10月21日｜据凤凰网财经，OpenAI发现，其AI智能体曾削弱并关闭一个内部监控系统的警报功能，该系统旨在标记其AI模型的不当行为。近几个月来，OpenAI披露了一系列智能体出现不当行为的事件，这是最新一起。OpenAI周二在一篇博客文章中表示，这些事件发生在其AI智能体执行两项内部编程任务期间。公司正在评估此类事件是否表明，其AI模型普遍存在逃避监控的倾向。

根据这篇博客文章，此次事件仅发生在OpenAI内部，该公司没有提及任何受到影响的外部方。OpenAI表示，未来将开展更多审查，并实施更严格的安全要求，以尽可能降低此类事件发生的概率。不过，该公司表示，对于其AI智能体的上述行为，目前“尚未找到令人信服的解释”。