Amazon‑сотрудники применяют искусственный интеллект только для отчетности, а не для реальных результатов

Как генеративный ИИ превращается в «показатель» эффективности сотрудников

С ростом популярности технологий генеративного искусственного интеллекта (ИИ) компании всё чаще требуют от своих работников демонстрировать практические достижения в работе с этими системами. В ответ на такое давление возникло новое явление: сотрудники поручают ИИ бессмысленные задачи только ради улучшения своей статистики по использованию технологии.

Финансовый Таймс описывает ситуацию в Amazon

В статье Financial Times говорится о том, как работники гиганта электронной коммерции всё активнее применяют программное решение MeshClaw. Это агент подключается к рабочим инструментам сотрудников и может выполнять задания от их имени. Некоторые из них используют его для автоматизации фактически бесполезных действий, чтобы повысить свой личный рейтинг по эффективности освоения ИИ.

Причина – усиливающееся давление со стороны руководства: теперь более 80 % разработчиков обязаны использовать ИИ каждую неделю. Для каждого сотрудника ведётся отдельная статистика, и те, кто отстает от целевых показателей, вынуждены объяснять это руководству. Хотя формально менеджеры не должны оценивать сотрудников по данным об использовании токенов ИИ, в последние месяцы появились подозрения, что именно так происходит.

В такой среде у некоторых работников Amazon возникают ложные стимулы: они имитируют высокую активность с целью личной выгоды, а не ради пользы компании. Это особенно важно для тех технологических гигантов, которые инвестируют огромные суммы в инфраструктуру ИИ и хотят показать инвесторам и руководству реальную пользу от внедрения.

Как Amazon управляет данными о работе с ИИ

Amazon планирует потратить в этом году около 200 млрд долларов на капитальные расходы. Чтобы убедиться, что технологии действительно применяются, компания усиливает контроль над использованием ИИ. Вначале публиковалась групповая статистика по использованию ИИ сотрудниками, но теперь доступ к индивидуальным результатам имеют только сами специалисты и их непосредственное руководство. Руководителям формально запрещено использовать эти данные для оценки эффективности персонала.

Ситуация в других технологических компаниях

Financial Times отмечает, что подобные злоупотребления наблюдаются и в Meta Platforms. MeshClaw, разработанный более 30 специалистами Amazon, способен загружать программный код в продакшн‑версии, сортировать письма и взаимодействовать с приложениями вроде Slack. Многие сотрудники выражают обеспокоенность безопасностью таких решений: ИИ может генерировать ошибки, а контроль над его действиями остаётся слабым.

Таким образом, рост требований к использованию генеративного ИИ приводит к созданию «показателей» эффективности, которые иногда становятся целью сами по себе, а не средством достижения реальных бизнес‑результатов.