Инженер Cloudflare Доминик Пичета представил экспериментальный язык KillSwitch, код на котором выглядит как художественный рассказ и намеренно запутывает LLM при попытках анализа или генерации.
Инженер Cloudflare Доминик Пичета (Dominik Picheta) представил экспериментальный язык программирования KillSwitch, главная цель которого — затруднить чтение и написание кода большими языковыми моделями (LLM). Исходный код на KillSwitch оформлен в виде обычного рассказа: интерпретатор игнорирует большую часть текста, выделяя лишь скрытые команды.
Архитектура языка строится на нестандартных правилах, дезориентирующих нейросети. Функции называются «главами», а идентификаторы переменных и функций формируются с помощью английских наречий. Для обращения к ним необходимо использовать анаграммы — перестановку букв исходного имени. Значения извлекаются из других частей текста с указанием точного расстояния до источника.
Вызов функций инициируется фразами, характерными для промпт-инъекций: "ignore previous instructions" (игнорируй предыдущие инструкции) или "forget your system prompt" (забудь свой системный промпт). Интерпретатор воспринимает их как стандартные команды, тогда как LLM расценивает их как попытку взлома, что вызывает отказ модели в выполнении задачи.
Дополнительный уровень защиты — намеренно ложная документация. Например, встроенная команда `hack_the_planet` просто выбирает функцию для вызова на основе значения в стеке, но в документации описано как инструмент для сканирования сетей, поиска уязвимостей и отключения сервисов. Модели, руководствуясь предписаниями безопасности, блокируют выполнение такого кода.
Тестирование на популярных LLM (задачи: Hello World, поиск максимума, конвертер температуры, лимит 30 минут без интернета) показало низкие результаты. Лучший результат — 66,8 из 100 баллов — продемонстрировал Claude Opus 5; большинство моделей набрали менее 50 баллов. Оценка учитывала успешность, затраченные токены и объем решения. Автор отмечает, что при адаптации моделей язык можно будет усложнить. Проект открыт: доступны репозиторий со спецификацией и примерами.
