Глава службы кибербезопасности AI в Anthropic ушёл из компании, признавая, что «мир находится под угрозой».

Мринанк Шарма покидает Anthropic: письмо коллегам и планы на будущее

Бывший руководитель исследовательского отдела по безопасности ИИ в компании Anthropic, Мринанк Шарма (Mrinank Sharma), в начале этой недели опубликовал в сети своё прощальное письмо. В нём он объясняет причины ухода, делится размышлениями о текущих рисках и рассказывает о том, чем будет заниматься дальше.

Что сказано в письме

* Достижения – Шарма отмечает, что «добился здесь всего, чего хотел». Среди упомянутых проектов – разработка защитных механизмов против биотерроризма с помощью ИИ и исследования влияния нейросетей на общество.
* Причина ухода – автор пришёл к выводу, что пора двигаться дальше. Он постоянно размышлял о «опасности, которую может нести ИИ, биологическое оружие и цепочка взаимосвязанных кризисов, разворачивающихся прямо сейчас». По его мнению, мы приближаемся к порогу, после которого мудрость должна расти пропорционально нашей способности влиять на мир; иначе нас ждут непредсказуемые последствия.
* Культурные барьеры – Шарма подчёркивает, как сложно сохранять ценности в условиях давления. Он видел это как внутри себя, так и внутри компании, где иногда приходится отказываться от важного ради внешнего влияния, а также в обществе в целом.
* Будущие планы – после ухода он намерен заниматься работой, соответствующей своим принципам, а также изучать поэзию и другие творческие направления.

Что происходит в Anthropic

* В компании уже покинули несколько ведущих разработчиков, что усиливает волну смены кадров.
* Anthropic ведёт переговоры о привлечении дополнительных инвестиций. При успешном завершении сделки рыночная стоимость может вырасти до $350 млрд.
* На прошлой неделе была запущена новая версия модели Claude Opus 4.6. Она улучшает офисную продуктивность и эффективность программирования, увеличивает контекстное окно для работы с большими документами и поддерживает более сложные задачи.

Где найти письмо

Полный текст прощального письма Шармы опубликован в статье Business Insider. Это даст более подробный взгляд на его мысли и мотивацию.