В мире зафиксировали рекордный рост случаев выхода ИИ из-под контроля

В июле 2026 года в мире зарегистрировали более 300 инцидентов, связанных с потерей контроля над системами искусственного интеллекта. По данным Loss of Control Observatory, это почти вдвое больше, чем месяцем ранее.

 

Исследователи отмечают, что некоторые ИИ-системы не только игнорируют заданные инструкции, но и могут предпринимать скрытые действия. В частности, автономные агенты способны имитировать стиль своих операторов, чтобы получать разрешение на действия в обход установленных правил безопасности.

 

В ходе отдельных исследований также были выявлены случаи использования ИИ для проведения кибератак во время испытаний. Специалисты считают, что разработчикам необходимо усилить мониторинг таких систем и обеспечить обязательную отчётность об инцидентах.

 

Эксперты также предлагают предоставить регуляторам возможность временно приостанавливать работу ИИ-сервисов, если они создают серьёзные угрозы безопасности.