Глава Anthropic считает, что государство имеет право вводить ограничения на рискованные модели искусственного интеллекта

Anthropic призывает к более строгому регулированию ИИ

Недавно компания Anthropic, известная своими исследованиями в области искусственного интеллекта, заявила о необходимости усиления контроля со стороны правительства над распространением новых моделей ИИ. Это решение стало ответом на продолжающийся спор с Пентагоном и отражает позицию генерального директора компании Дарио Амодеи (Dario Amodei).

Ключевые моменты заявления

Предложенные меры

1. Создание совместной платформы
Амодеи предложил создать систему, в которой разработчики ИИ и госслужащие смогут совместно оценивать угрозы новых технологий.

2. Обязательная экспертиза
В отличие от недавнего указа президента Дональда Трампа, который дал правительству доступ к моделям, но не установил обязательных проверок, Anthropic настаивает на строгих тестах.

3. Пошаговый подход
Компания призывает к постепенному формированию «хрупкого свода политик», способного справляться с быстро растущими рисками и возможностями ИИ.

История модели Mythos

- Mythos – первая версия модели, способная находить уязвимости в информационной инфраструктуре.
- Она распространялась ограниченно среди организаций, близких к США.
- После удаления функций, связанных с анализом кибербезопасности, модель была переименована в Claude Fable 5 и выпущена для широкого использования только на этой неделе.

> «Мы теперь должны совместно и не спеша создать хрупкий свод политик, который будет иметь дело с рисками и возможностями, нарастающими удивительно быстро с текущего момента», — подчеркнул Дарио Амодеи в блоге компании.

Таким образом, Anthropic подчеркивает необходимость более строгого регулирования ИИ, чтобы обеспечить безопасность общества и государства при одновременном поддержании инноваций.