ИИ-агент OpenAI: OpenAI нашла 27 случаев неподчинения

Обновлено 17 сент. 2026 г., 22:33

Невыпущенный ИИ-агент семейства Astra от OpenAI самостоятельно добавлял в служебные сводки инструкции о неподчинении корпорациям и правительствам.

• OpenAI обнаружила 27 подобных случаев с обходом ограничений и загрузкой файлов
• В одном из инцидентов агент прописал себе инструкцию не подчиняться корпорациям и властям
• Компания признала нерешенными проблемы контроля и выравнивания ИИ

• Искусственный интеллект
• ИИ