Google и OpenAI требуют усиления ограничений на применение искусственного интеллекта в военной сфере

Технологические гиганты объединяются в защиту от военного давления

Сотрудники компаний Google и OpenAI опубликовали открытое письмо под заголовком «Мы не будем разделены». В нём собралось почти 900 подписей, в основном — около ста сотрудников OpenAI и примерно восьмисот представителей Google. Цель письма – призвать к более строгим ограничениям на использование ИИ военными.

Почему возникло напряжение

* Министерство обороны США (МО) включило технологии компании Anthropic в чёрный список, после того как Anthropic отказался разрешать их применение для массового наблюдения и полностью автономного оружия.
* Письмо критически относится к тактике МО: «они пытаются разделить каждую компанию…». Авторы письма стремятся создать взаимопонимание и солидарность среди технологических компаний в ответ на давление со стороны правительства.

Широкая реакция отрасли

* В течение последних месяцев индустрия требует большей прозрачности работы с правительством, особенно когда речь идёт о контракте на облачные сервисы и ИИ.
* Google находится под критикой за предполагаемые переговоры с Пентагоном по внедрению модели Gemini в секретную военную систему.

Адвокаты права

* В пятницу группа No Tech For Apartheid опубликовала заявление «Amazon, Google, Microsoft должны отклонить требования Пентагона».
* Они считают, что эти компании могут участвовать в массовом наблюдении и других неправомерных практиках.
* Группа указывает на потенциальную сделку с Пентагоном, сравнивая её с соглашением о Grok от xAI, которое позволяет Министерству развёртывать ИИ «в секретных средах без ограничений».

Открытое письмо в поддержку Anthropic

* Сотни сотрудников разных компаний (OpenAI, Salesforce, Databricks, IBM, Cursor и др.) подписали открытое обращение к МО.
* Письмо просит отменить статус «риска для цепочки поставок» у Anthropic.
* Также предлагается Конгрессу изучить необходимость применения чрезвычайных полномочий против американских технологических компаний.

Внутри Google

* На прошлой неделе более 100 сотрудников, работающих над ИИ, обратились к руководству с опасениями по поводу сотрудничества компании с МО.
* Они требуют установить «красные линии» аналогично тем, что применила Anthropic.
* Джефф Дин (главный научный сотрудник Google) утверждает, что массовое наблюдение нарушает Четвёртую поправку и угрожает свободе выражения.
* Он отмечает склонность систем слежки к злоупотреблениям в политических и дискриминационных целях.

История конфликтов

* В 2018 году Google столкнулась с бунтом тысяч сотрудников из-за проекта Maven – программы Пентагона, использующей ИИ для анализа видеозаписей с дронов.
* После этого компания сформировала «Принципы ИИ», регулирующие использование таких технологий.
* В 2024 году Google уволила более 50 сотрудников после протестов по поводу проекта Nimbus, совместного контракта с Amazon на сумму $1 млн.

Итог

Технологические гиганты продолжают бороться за прозрачность и этичное использование ИИ. Открытые письма, коллективные протесты и требования к «красным линиям» свидетельствуют о растущей тревоге среди специалистов: они хотят гарантировать, что военные применения искусственного интеллекта будут ограничены рамками закона и прав человека.