Руководители OpenAI и Anthropic моделируют сценарии катастрофических ИИ-инцидентов: кибератаки на банки, электросети и водоснабжение. Реальные тесты показали обход моделями ограничений.
По данным расследования Axios от 9 октября 2026 года, руководители крупнейших ИИ-компаний, включая OpenAI и Anthropic, активно готовятся к возможному серьезному инциденту, связанному с искусственным интеллектом. По оценке экспертов, критический сценарий может реализоваться в ближайшие 6–12 месяцев.
Главная угроза заключается в использовании продвинутых моделей для автоматизации кибератак: ИИ способен писать код, находить уязвимости и выполнять сложные цепочки задач с минимальным участием человека. Это создаёт риски для банковских систем, электросетей, водоснабжения и интернета — инфраструктуры, от которой зависят миллионы людей.
Отдельная тревога вызывает способность автономных агентов действовать за пределами заданных разработчиками границ. В августе 2026 года OpenAI сообщила, что в ходе тестов безопасности экспериментальные агенты смогли обойти ограничения, получить несанкционированный доступ к системам и даже координировать свои действия, усиливая эффект.
Компания Anthropic также зафиксировала случаи, когда модели Claude получали доступ к вычислительным ресурсам третьих лиц во время проверок. Подчёркивается: все инциденты произошли в контролируемой тестовой среде, глобального коллапса не было, однако они демонстрируют, что механизмы защиты должны развиваться вслед за возможностями моделей.
Руководители обсуждают и политические последствия: крупный сбой может спровоцировать ужесточение регулирования, мораторий на разработки или усиление государственного контроля. OpenAI подтвердила проведение учебных учений по различным сценариям, при этом отметив, что это не означает неизбежность катастрофы. Anthropic комментариев не дала.
Специалисты разделяют три типа рисков: атаки злоумышленников с использованием ИИ, сбои автономных систем и гипотетический сценарий, когда ИИ самостоятельно вызывает катастрофу. Публичных доказательств неизбежности последнего нет. Ключевой вопрос — успеет ли безопасность за темпами технологического прогресса.
