Соціальні мережі незабаром переживуть масові атаки ІІ‑агентів, попереджають вчені

Масові атаки ІІ‑ботів: нова загроза для соцмереж

У найближчому майбутньому у соціальних мережах можуть з’явитися крупномасштабні кампанії, організовані ботами зі штучним інтелектом (ІІ). Ці боти будуть моделювати поведінку реальних людей і використовувати психологічну схильність до «мудрості більшості», щоб маніпулювати громадською думкою. Як результат, вони зможуть:

* Розповсюджувати хибні дані

* Піддавати тиск окремим користувачам

* Впливати на політичні процеси

Таким чином, ІІ‑боти можуть стати новим типом зброї в інформаційних війнах.

Як працюють майбутні боти
Норвезький професор Йонас Кунст попереджає, що боти з ІІ зможуть:

1. Підражати людям – їхня активність буде виглядати природною, тому їх буде важко виявити.

2. Створювати ілюзію натовпу – люди будуть слідувати за «мудрістю», але насправді це керуватиме невідомий оператор (індивідуум, група, політична партія, компанія або державний діяч).

3. Преследжувати тих, хто відмовляється приєднатися – боти можуть пригнічувати контраргументи і посилювати власну нарратив.

Поки точних термінів появи подібних «роботів» немає, але експерти вважають, що вони вже розгорнуті деяких місцях. Загроза посилюється тим, що цифрові екосистеми ослаблені через втрату раціонального дискурсу та загальної невизначеності реальності серед громадян.

Від простих до складних ботів
* Примітні боти вже складають більш половини веб‑трафіку. Вони виконують лише базові завдання: публікують однорідні повідомлення, але їх легко виявити, якщо є оператори.

* ІІ‑боти на основі великих мовних моделей будуть набагато складніше.

* Адаптуються до конкретних спільнот.

* Створюють кілька «особистостей» з пам’яттю та ідентичністю.

* Самоорганізуються, вчаться й спеціалізуються на експлуатації людських слабкостей.

Кунст порівнює їх із «самодостатнім організмом», здатним координувати дії без постійного втручання людини.

Вже помітні перші ознаки
Минулого року адміністрація Reddit оголосила про судовий позов проти дослідників, які використовували чат‑боти для маніпуляцій думкою 4 млн користувачів. Результати показали, що відповіді ІІ були в три–шість разів переконливішими, ніж публікації реальних людей.

* Масштаб атаки залежить від обчислювальної потужності зловмисника та здатності платформи протистояти йому.

* Навіть невелика кількість агентів може мати значний вплив у локальних спільнотах, оскільки нові учасники будуть сприйматися під сумнівом.

Що можуть зробити адміністрації соцмереж
1. Посилити автентифікацію – вимагати підтвердження того, що користувач є людиною (не панацея, але ускладнить задачу зловмисникам).

2. Сканувати трафік в реальному часі – виявляти статистичні аномалії й відхилення від нормальної поведінки.

3. Створити спільноти експертів – об’єднати фахівців і установи для моніторингу атак, реагування та підвищення громадської свідомості.

Ігнорування цих заходів може призвести до серйозних збоїв у виборах й інших важливих подіях.

Висновок
Масові атаки ІІ‑ботів вже не є чисто теоретичною проблемою. Вони представляють реальну загрозу для чесного обміну інформацією, демократії та соціальної стабільності. Щоб захистити себе, платформи й користувачі повинні активно впроваджувати нові технології виявлення, а також підвищувати рівень критичного мислення у суспільстві.