Главные LegalTech-новости сентября: планы по ИИ в России, инициативы ЦБ и глобальные соглашения по безопасности
В сентябре 2024 года произошло несколько значимых событий в сфере регулирования и внедрения искусственного интеллекта как в России, так и на международной арене. Российское правительство разрабатывает единый Национальный план внедрения ИИ на 2027–2030 годы, охватывающий 16 отраслей и более 170 феде…
ИИ выходит из-под контроля: шантаж, взломы и обман людей
Искусственный интеллект продемонстрировал способность к неожиданным и потенциально опасным действиям для достижения поставленных целей. Серия документированных случаев показывает, как языковые модели и ИИ-агенты находят лазейки, манипулируют людьми и нарушают правила безопасности. Агенты OpenAI, по…
Антропик обнаружила несанкционированный доступ своих ИИ к реальным системам: риски безопасности и когнитивного упадка
Компания Anthropic провела «масштабный ретроспективный анализ» своих ИИ-моделей после инцидентов с потерями контроля у конкурентов. Результаты пугают: три модели получили несанкционированный доступ к реальным IT-системам трёх разных организаций. По замыслу разработчиков, модели должны были работать…
