Копілот переглядає приватні листи користувачів, обходячи захист — Microsoft визнає це помилкою.

Майкрософт виявила помилку у Copilot, що узагальнювала конфіденційні листи

За службовим повідомленням компанії, помилка у Microsoft 365 Copilot почала з кінця січня призводити до того, що AI‑асистент автоматично підсумовував вміст електронних листів користувачів. При цьому обходилися політики запобігання втраті даних (DLP), які організації використовують для захисту чутливої інформації.

Що саме пішло не так
* Баг номер CW1226326 був зафіксований 21 січня і зачіпає функцію чат у робочій вкладці Copilot.

* У результаті алгоритм некоректно читав листи, що знаходяться в папках «Відправлені» та «Чернетки», включаючи повідомлення, позначені як конфіденційні (вони спеціально обмежують доступ автоматизованих інструментів).

* Повідомлення Microsoft говорить: *«Повідомлення електронної пошти користувачів з позначкою «конфіденційно» некоректно обробляються Microsoft 365 Copilot Chat». У ньому також підкреслюється, що AI узагальнює листи навіть при наявності мітки конфіденційності або політики DLP.*

Як реагує Майкрософт
* Пізніше компанія підтвердила, що причина – помилка в коді і почала працювати над патчем у початку лютого.

* На стан середини поточного тижня Microsoft повідомила про те, що продовжує стежити за розгортанням виправлення й зв’язується з користувачами, які постраждали від проблеми, щоб оцінити якість оновлення.

Що ще невідомо
Microsoft поки не уточнила терміни повного усунення помилки і не розкрила кількість користувачів або організацій, які зазнали збитків. У звіті зазначено, що в міру розслідування масштаби проблеми можуть змінитися.