Anthropic запретила Opus 5.5 помощь в разработке LLM.
Anthropic ужесточила политику в отношении Claude Opus 5.5, своей ведущей модели. Теперь она отказывается содействовать созданию передовых языковых моделей: если запрос касается, например, разработки ядра для определенных ML-ускорителей, система автоматически переключается на менее мощную Opus 5. Это правило распространяется только на 5.5 — Opus 5 работает без подобных ограничений.
Аналогичные механизмы внедрены в биологической сфере. Opus 5.5 использует классификаторы, схожие с теми, что применяются в модели Fable, для запросов двойного назначения — вирусологии, токсикологии, молекулярного дизайна. При активации модель также откатывается на Opus 5. Обе версии блокируют попытки дистилляции — извлечения внутренних рассуждений, например, просьбы дословно воспроизвести цепочку мыслей. Обычные вопросы, такие как «почему вы так сделали?», остаются доступными.
Автопереключение включено по умолчанию, но его можно отключить в настройках — тогда запрос просто блокируется. Anthropic объясняет это желанием снизить риски по мере роста возможностей ИИ.
Для легитимных организаций в области кибербезопасности и наук о жизни предлагаются программы верификации — Cyber Verification Program и Life Sciences Verification Program. Они дают доступ к более сильным моделям с меньшими ограничениями. Opus 5.5 пока не включена в киберпрограмму, но компании на Opus 4.8 уже получают Opus 5 с ослабленными кибер-ограничениями.
Эти шаги подтверждают тенденцию: разработчики мощных ИИ встраивают ограничения не только в продукт, но и в архитектуру доступа, балансируя между полезностью и потенциальной опасностью.
