Copilot просматривает приватные письма пользователей, минуя защиту – Microsoft признала это ошибкой.

Microsoft обнаружила ошибку в Copilot, которая обобщала конфиденциальные письма

Согласно служебному уведомлению компании, ошибка в Microsoft 365 Copilot начала с конца января приводить к тому, что ИИ‑ассистент автоматически суммировал содержимое электронных писем пользователей. При этом обходились политики предотвращения потери данных (DLP), которые организации используют для защиты чувствительной информации.

Что именно пошло не так

* Баг номер CW1226326 был зафиксирован 21 января и затрагивает функцию чата в рабочей вкладке Copilot.
* В результате алгоритм некорректно считывал письма, находящиеся в папках «Отправленные» и «Черновики», включая сообщения, помеченные как конфиденциальные (они специально ограничивают доступ автоматизированных инструментов).
* Сообщение Microsoft гласит: *«Сообщения электронной почты пользователей с пометкой «конфиденциально» некорректно обрабатываются Microsoft 365 Copilot Chat».* В нём также подчёркивается, что ИИ обобщает письма даже при наличии метки конфиденциальности или политики DLP.

Как реагирует Microsoft

* Позже компания подтвердила, что причина – ошибка в коде и начала работы над патчем в начале февраля.
* По состоянию на середину текущей недели Microsoft сообщила о том, что продолжает следить за развертыванием исправления и связывается с пользователями, затронутыми проблемой, чтобы оценить качество обновления.

Что ещё неизвестно

Microsoft пока не уточнила сроки полного устранения ошибки и не раскрыла количество пользователей или организаций, которые пострадали. В отчёте отмечено, что по мере расследования масштабы проблемы могут измениться.