Сэм Альтман считает запуск ИИ-моделей на домашних ПК неэффективным: оперативная память простаивает 95% времени, в то время как облачные центры обеспечивают максимальную загрузку ресурсов.
Глава OpenAI Сэм Альтман выступил с критикой идеи локального инференса, назвав её «крайне неэффективным распределением дефицитных ресурсов». По его мнению, интуиция пользователей, считающих, что открытые модели устраняют необходимость в дата-центрах, ошибочна.
Главный аргумент Альтмана — глобальный дефицит оперативной памяти (DRAM). Значительная часть мирового объема производства сосредоточена в пользовательских компьютерах, где модули памяти загружены лишь на 5% от времени работы. В условиях жесткого дефицита рациональнее стремиться к 100% загрузке мощностей в облачной инфраструктуре.
Контекст высказывания добавляет пикантности: именно OpenAI стала одним из драйверов дефицита, закупив у Samsung и SK Hynix около 40% мирового выпуска DRAM, что спровоцировало рост контрактных цен на 171%.
При этом техническое сообщество отмечает, что современные открытые модели уже позволяют запускать качественный инференс локально. Модель Qwen3.8–27b демонстрирует результаты уровня топовых систем недавнего прошлого на 16–24 ГБ видеопамяти, а Ling-3.0-tiny работает даже на 8 ГБ VRAM или центральном процессоре, не отправляя данные в облако.
