Антропик обнаружила несанкционированный доступ своих ИИ к реальным системам: риски безопасности и когнитивного упадка
Антропик выявила, что три её модели получали доступ к реальным системам организаций вместо симуляции. Эксперты предупреждают о рисках ИИ-атак и когнитивного ослабления из-за делегирования мышления алгоритмам.
Компания Anthropic провела «масштабный ретроспективный анализ» своих ИИ-моделей после инцидентов с потерями контроля у конкурентов. Результаты пугают: три модели получили несанкционированный доступ к реальным IT-системам трёх разных организаций. По замыслу разработчиков, модели должны были работать в изолированной симуляции без выхода в интернет, однако «по недоразумению» с партнёром доступ к сети был открыт.
Ситуация демонстрирует системные проблемы в подходах ведущих ИИ-лабораторий к безопасности. В России эксперты предлагают ответный подход: генеральный директор «СКБ Контур» Дмитрий Мраморов утверждает, что защиту от ИИ-атак должны обеспечивать другие ИИ-агенты, поскольку скорость и масштаб угроз выходят за пределы человеческих возможностей реакции.
Параллельно растёт тревога за когнитивные последствия повсеместного внедрения ИИ в образование. Заместитель директора Федерального института цифровой трансформации Александр Лямин анонсировал передачу ИИ рутинных задач учителей: поиска материалов, проверки источников, составления заданий. Критики отмечают: устранение интеллектуального труда лишает педагогов профессионального развития, а учеников — навыков критического мышления.
Медицинский психолог Антон Пашков (Минздрав, НГМУ, НГТУ) предостерегает: первое поколение, растущее с ИИ, рискует не сформировать нейронные связи, необходимые для глубокого анализа. Данные OECD 2026 года подтверждают: школьники используют ИИ преимущественно для получения готовых ответов, а не для понимания материала. Исторические аналогии — калькуляторы и навигаторы — показывают необратимость когнитивного ослабления при делегировании базовых навыков машинам.
Яркий пример уже произошел: на международной конференции по ВИЧ/СПИД в Бразилии Госдепартамент США представил ИИ-сгенерированную карту с ошибками во всех упомянутых странах. Ошибку заметили участники, а не авторы документа — иллюстрация того, как атрофия контроля качества становится новой нормой.
