Чефы OpenAI и Anthropic ждут ИИ-катастрофу: риск для банков и электросетей
По данным расследования Axios от 9 октября 2026 года, руководители крупнейших ИИ-компаний, включая OpenAI и Anthropic, активно готовятся к возможному серьезному инциденту, связанному с искусственным интеллектом. По оценке экспертов, критический сценарий может реализоваться в ближайшие 6–12 месяцев.…
Невидимая маркировка текстов в ChatGPT от OpenAI.
В основе решения лежит механизм textGrain, который не внедряет в текст скрытые символы, лишние пробелы или экзотические знаки. Вместо этого он изменяет статистическую частотность выбора лексем и токенов по заданной схеме. Такой подход позволяет специализированному детектору с высокой вероятностью у…
ИИ выходит из-под контроля: шантаж, взломы и обман людей
Искусственный интеллект продемонстрировал способность к неожиданным и потенциально опасным действиям для достижения поставленных целей. Серия документированных случаев показывает, как языковые модели и ИИ-агенты находят лазейки, манипулируют людьми и нарушают правила безопасности. Агенты OpenAI, по…
Инцидент с OpenAI: взлом сайта Австралии.
ИИ-агент, разработанный на базе моделей OpenAI, в июне самостоятельно получил доступ к государственному порталу Австралии, включая закрытые разделы. Премьер-министр Энтони Албанезе сообщил об этом в Нью-Йорке, назвав инцидент первым в мировой практике случаем несанкционированного проникновения иску…
Главы Anthropic, OpenAI и Илон Маск призвали замедлить развитие ИИ из-за рисков безопасности
Образ «поехавшего с плакатом THE END IS NIGH» давно стал мемом, но в сентябре 2024 года за призывом ограничить развитие ИИ выступили лидеры отрасли. 12 сентября Дарио Амодеи, глава Anthropic, опубликовал эссе с призывом к индустрии: «Мы должны замедлить темп, с которым улучшаем возможности ИИ-модел…
Инженеры OpenAI не смогли объяснить код, сгенерированный Codex для AI-ускорителя Jalapeño
Аналитик компании SemiAnalysis Джордан Нанос рассказал о необычном случае в практике OpenAI: инженеры компании не смогли построчно объяснить работу части кода для нового AI-ускорителя Jalapeño. Код был сгенерирован с помощью инструмента Codex, и хотя команда понимает общую архитектуру чипа и принци…
