Майкрософт пропонує рішення для зупинення поширення дипфейків у інтернеті

Microsoft запускає новий набір стандартів для перевірки автентичності онлайн‑контенту

Microsoft оголосила про створення «технічних стандартів» для оцінки реальності матеріалів, що з’являються в мережі. Мета – допомогти розробникам ШІ та соціальним платформам визначити, чи були зображення або відео змінені цифровими інструментами (наприклад, дипфейками) і наскільки надійні методи їх документування.

Як працює система перевірки
* Приклад із картинами Рембрандта

- Створюється докладний лог походження: місця зберігання, попередні власники.

- Картина сканується, а з мазків пензля генерується математична підпис – «цифровий відбиток пальця».

- При виставленні в музеї відвідувач може відкривати ці дані і переконатися у оригінальності.

* Методи вже застосовуються

Microsoft досліджувала 60 комбінацій існуючих технік (видалення метаданих, дрібні зміни, цілеспрямована маніпуляція). Для кожної моделі було смоделюйовано поведінку в різних сценаріях.

Дослідники виявили:

- Надійні комбінації – можна показати широкій аудиторії.

- Недостовірні комбінації – можуть лише ускладнити ситуацію, створюючи більше плутанини.

Чому це важливо
* Законодавство вимагає прозорості ШІ (наприклад, «Закон про прозорість ШІ» в Каліфорнії).

* Microsoft поки не оголосила, чи застосує вона ці стандарти на своїх сервісах: Copilot, Azure, OpenAI і LinkedIn.

Стандарти не визначають правдивість контенту; вони лише показують, чи підлягав матеріал маніпуляціям і звідки він прийшов. Якщо галузь їх прийме, створення обманливого контенту стане помітно складніше.

Стан індустрії
| Компанія | Дія | Статус |
|---|---|---|
| Microsoft | C2PA (2021) – відстежування походження | Проводиться розвиток нових засобів |
| Google | Водяні знаки для ШІ‑генерованого контенту (з 2023) | Активно впроваджується |

Але повний набір інструментів від Microsoft може залишитися лише «проектом», якщо учасники ринку побачать загрозу своїм бізнес‑моделям.

Ефективність існуючих рішень
* Дослідження показало, що лише 30 % публікацій у Instagram, LinkedIn, Pinterest, TikTok і YouTube коректно позначені як створені ШІ.

* Швидке розгортання перевірочних засобів ризиковане: збої можуть підорвати довіру користувачів.

Комплексні механізми перевірки переважні. Наприклад, якщо над достовірним зображенням виконано невелике редагування ШІ, платформа може помилково класифікувати його як повністю генерований. Інтегрований підхід знижує ймовірність ложно позитивних результатів.

Висновок
Microsoft пропонує структурований набір стандартів для виявлення цифрової маніпуляції контентом. Ці інструменти спрямовані на підвищення прозорості та довіри до онлайн‑матеріалів, але їх успіх залежить від прийняття галуззю і надійності інтегрованих перевірок.