США предъявляют к Anthropic требования, практически неосуществимые при разблокировке ИИ‑моделей

Кратко о ситуации

Через ровно неделю с момента отключения всех пользователей от моделей Mythos 5 и Fable 5, Anthropic вынужденной по требованию американских властей, компания столкнулась с новыми требованиями безопасности. В результате блокировка затронула не только иностранных клиентов — теперь её пострадали все пользователи.

Почему пришлось полностью закрыть доступ

Согласно Wired, основанному на инсайдерских источниках, правительство США потребовало от Anthropic «постоянно устранять уязвимости», которые позволяют обойти ограничения. В частности, разработчики уже запретили использовать модели для поиска информации, пригодной к созданию оружия массового поражения. Однако АНБ доказала, что определённые комбинации запросов в Fable 5 (модель, предназначенная как безопасная версия Mythos 5) позволяют снять эти ограничения.

Требования властей

Американские чиновники теперь требуют, чтобы Anthropic:

1. Полностью исключила любые способы обхода блокировок во всех своих моделях;
2. Проводила собственные тесты на устойчивость к взлому и регулярно сдавалась отчётами правительству.

Позиция экспертов

Кибербезопасники считают, что любые ограничения будут работать лишь ограниченное время: с развитием технологий появятся более совершенные методы обхода. Исключить злоупотребления раз и навсегда практически невозможно, но власти США требуют именно этого. Если позицию американских чиновников не пересмотреть, модели Anthropic могут оставаться заблокированными надолго.

Итог

Ситуация остаётся напряжённой: Anthropic вынуждена балансировать между требованиями безопасности и возможностью вернуть свои ИИ‑модели в открытый доступ. В ближайшие недели будет решено, смогут ли они удовлетворить запросы правительства или останутся под запретом.