Как Revolut сэкономил 90% на ИИ для кода: self-hosted GLM вместо Claude и Codex
8

Как Revolut сэкономил 90% на ИИ для кода: self-hosted GLM вместо Claude и Codex

Автор: admin

Revolut перевел 2000 инженеров на открытую модель GLM от Z.ai, развернутую на своих GPU. Себестоимость составила $0,30 за млн токенов — в 10 раз дешевле подписок на Claude Code и Codex. Ускорение написания кода — 60%, сокращение lead time — 70%.

Британский финтех Revolut за неполный год сократил расходы на ИИ-ассистентов для программирования примерно на 90%. Компания отказалась от коммерческих решений Claude Code и Codex в пользу открытой модели GLM от китайской Z.ai, развернутой на собственной инфраструктуре. Опыт миграции поделился руководитель эксплуатации и инфраструктуры Дэвид Абитбол на конференции AI Engineer в Нью-Йорке.

До перехода на self-hosted модель отдельные инженеры тратили от $1000 до $10 000 в месяц на ИИ-инструменты при невысокой отдаче. Компании пришлось вводить жесткие лимиты токенов, что заставляло сотрудников экономить ресурсы. После развертывания GLM-5.3 на 56 ускорителях NVIDIA B200 (7 систем DGX B200) себестоимость снизилась до $0,30 за миллион входных и выходных токенов. Модель с 753 млрд параметрами (активно 40 млрд) обслуживает около 2000 инженеров — примерно 36 человек на один GPU.

Ключевыми оптимизациями стали квантование в NVFP4, раздельные пулы для prefill и decode, а также ограничение контекста до 256 000 токенов вместо возможного миллиона. По словам Абитбола, «длинный контекст — это развод»: 256K токенов (20–25 тысяч строк кода) достаточно для среднего сервиса, а KV-кэш обходится в разы дешевле. Время до первого токена — менее 3 секунд, скорость генерации — около 200 токенов в секунду (вечером до 800).

Главный эффект — поведенческий: когда токены перестали быть дефицитом, инженеры начали запускать задачи параллельно. Основной прирост продуктивности (60% по скорости кода, 70% по lead time) дал не сам код, а сопутствующие задачи: отладка, работа с тикетами в Jira и Confluence. Ограничение GLM — работа только с текстом, визуальные задачи роутер отправляет в Gemini и OpenAI. Revolut считает, что self-hosting закрывает риски утечки данных, хотя вопросы к поведению модели остаются. По оценке компании, при от пары сотен активных пользователей self-hosted агентные модели уже окупаются.

Похожие материалы

Разработчик жалуется: Claude Code пишет весь код, а инженеры лишь нажимают Enter
ИИ в разработке Claude Code автоматизация кода выгорание разработчиков

Разработчик жалуется: Claude Code пишет весь код, а инженеры лишь нажимают Enter

Инженер v0xium рассказывает о работе в крупной IT-компании, где ИИ-ассистент Claude Code …

Утечка данных Revolut: хакеры публикуют селфи и паспорта клиентов, требуя выкуп в $780 млн
кибербезопасность утечка данных Revolut вымогательство

Утечка данных Revolut: хакеры публикуют селфи и паспорта клиентов, требуя выкуп в $780 млн

Злоумышленники начали массово публиковать личные данные клиентов Revolut: селфи, сканы паспортов и …

Red Hat предупреждает: ИИ-кодирование угрожает инженерному мышлению разработчиков
ИИ в разработке Red Hat вайбкодинг инженерное мышление

Red Hat предупреждает: ИИ-кодирование угрожает инженерному мышлению разработчиков

Red Hat выразила обеспокоенность тем, что массовое использование ИИ для генерации кода …

Как воссоздали язык «Эллочка» 1999 года на Zig с помощью ИИ
Zig ретрокомпьютинг интерпретаторы ИИ в разработке

Как воссоздали язык «Эллочка» 1999 года на Zig с помощью ИИ

Автор перенёс забытый язык программирования «Эллочка» из MS-DOS в Windows на Zig …