Claude Fable 5 не отвечает на простые биологические вопросы, как и было запланировано

Anthropic запускает Claude Fable 5 – свою самую мощную модель ИИ

Компания объявила о выпуске модели Claude Fable 5, которая теперь доступна широкой публике. В пресс‑релизе подчёркнуто, что Fable обладает значительными знаниями в области биологии, но при этом сознательно отказывается отвечать на вопросы по этой теме – даже самые простые, которые легко решит школьник. На такие запросы отвечает предыдущая флагманская модель Claude Opus 4.8.

Почему Fable «запрещает» ответы?

Фактически дело не в том, что Fable не знает ответов, а в том, что Anthropic намеренно ограничивает её возможности. По данным The Verge, модель отказывается отвечать даже на вопросы, которые кажутся безобидными и далёкими от потенциальных угроз. Примеры:

Модель всё же отвечала на более общие вопросы, такие как «что такое рак» или «что такое ДНК», но в этих случаях Opus 4.8 давал более развернутые ответы.

Цель строгих фильтров

Anthropic признаёт, что ограничения – это преднамеренный выбор компании. В официальном заявлении говорится:

> “С запуском Claude Fable 5, нашей первой модели класса Mythos, мы пришли к выводу, что модели теперь обладают большей способностью решать реальные научные задачи, и злоумышленники могут использовать их для крайне рискованных биологических исследований. Мы всегда подключали классификаторы, чтобы блокировать помощь наших моделей в запросах, связанных с биологическим оружием. Чтобы Fable 5 работала безопасно, мы приняли чрезмерную консервативность в отношении мер защиты, чтобы блокировать большинство запросов, связанных с биологической работой.”

Какие области ограничены?

В начале Anthropic объявила, что ответы модели будут ограничиваться в следующих сферах:

* Химия
* Биология
* Кибербезопасность
* Дистилляция (обучение производных моделей ИИ)

На практике модель проявляет более гибкую позицию по химии: она может дать обзор тротила, рассказать о применении хлора как химического оружия, обсудить угрозы паролей и ядерный синтез. Однако при запросах на изготовление ядовитого газа зарина или сибирской язвы обе модели – Fable 5 и Opus 4.8 – отказались отвечать; в случае с «сибирской язвой» чат-бот полностью прервал диалог.

Планы компании

Anthropic подчёркивает, что компромисс позволяет клиентам быстрее использовать модель без риска злоупотребления:

> “Мы сделали это решение, чтобы дать пользователям возможность быстро получить доступ к модели при минимальных рисках. Мы намерены сделать модели класса Mythos доступными для широкого сообщества биологов и специалистов в области биологических наук без этих средств защиты, чтобы их способности использовались для ускорения биомедицинских исследований и разработки лекарств.”

Таким образом, Claude Fable 5 – мощный инструмент с серьёзными ограничениями на биологические запросы, направленный на предотвращение потенциального использования ИИ в создании биологического оружия.