Google временно закрыла прием сообщений об ошибках в своих open-source проектах: из-за наплыва ИИ-сгенерированных заявок система утонула в ложных сигналах.
Программа Open Source Software Vulnerability Rewards Program, по которой сторонние исследователи получали вознаграждение за найденные баги, столкнулась с тем, что автоматические модели, обученные искать уязвимости, стали массово присылать отчеты, содержащие выдуманные технические детали и несуществующие проблемы.
Представители компании пояснили, что такие обращения — это по сути «галлюцинации» нейросетей, вводящие в заблуждение инженеров и отвлекающие от реальных угроз. Поэтому с 1 октября рассмотрение новых заявок приостановлено. Возобновление программы ожидается не раньше первого квартала следующего года, когда будут пересмотрены критерии проверки и фильтрации входных данных.
При этом другие направления вознаграждений Google, связанные с иными типами программного обеспечения, продолжают функционировать в обычном режиме. В компании подчеркивают, что пауза носит временный характер и направлена на защиту качества анализа, а не на отказ от сотрудничества с исследователями.
