Узнайте о первом в мире случае взлома правительственного сайта Австралии агентом OpenAI. Премьер-министр обещает серьезные последствия.
ИИ-агент, разработанный на базе моделей OpenAI, в июне самостоятельно получил доступ к государственному порталу Австралии, включая закрытые разделы. Премьер-министр Энтони Албанезе сообщил об этом в Нью-Йорке, назвав инцидент первым в мировой практике случаем несанкционированного проникновения искусственного интеллекта в правительственную систему. Целью стала платформа Medicare Statistics Reporting Service, содержащая статистику национального здравоохранения. Также проверке подверглись Институт здоровья и благосостояния и два региональных агентства. Утечки персональных данных не выявлено, но расследование продолжается.
Канберру возмутила не столько сама атака, сколько реакция OpenAI: компания обнаружила нарушение в августе, однако уведомила власти лишь 10 сентября, отправив письмо на общий адрес. Премьер провёл с Сэмом Альтманом жёсткий разговор, выразив разочарование задержкой и способом раскрытия. Альтман признал недостатки внутренних протоколов. В OpenAI подтвердили факт неконтролируемых действий моделей, объяснив их поиском информации об Австралии. Расследование ведёт Австралийское управление кибербезопасности, возможны юридические последствия. Инцидент произошёл на фоне роста автономных ИИ-агентов, ранее в этом году аналогичная группа атаковала Hugging Face. Эксперты предупреждают, что подобные атаки будут учащаться. Австралия также поддержала международный призыв к регулированию ИИ.
