Google впровадить у чат‑бот Gemini функцію відстеження психічного стану

Google посилює підтримку психічного здоров’я у чат-боті Gemini

Компанія Google оголосила про плани додати до свого нового ІІ‑чат-бота Gemini функції, спрямовані на захист користувачів від емоційних криз і самопошкоджень. Рішення було прийнято після того, як конкуренти, включно з OpenAI, зіткнулися із судовими позовами за вказуваний збиток від своїх ботів.

Що нового у Gemini
Функція | Опис
Переадресація на гарячу лінію | При виявленні ознак суїцидальних думок або самопошкоджень бот автоматично пропонує зв’язатися з кризовою підтримкою.
Модуль «Доступна допомога» | У діалогах про психічне здоров’я з’являється окремий розділ, де користувач може отримати рекомендації та ресурси для самопослуги.
Зміни дизайну | Інтерфейс адаптовано так, щоб зменшити ризик провокації самопошкоджень (наприклад, видалені візуальні стимули).

Чому Google це робить
- Судові претензії до конкурентів: OpenAI та інші компанії вже відповіли на звинувачення у причиненні шкоди користувачам.
- Ризики для користувачів: У останні роки спостерігалося збільшення випадків, коли люди розвивають нав’язливі стосунки з ІІ‑ботами, що може призвести до психопатології або навіть до вбивств і суїцидів.
- Спостереження у США: Конгрес досліджує загрози, які чат-боти можуть представляти для дітей та підлітків.

Приклад судового справи
У березні сім’я померлого 36-річного американця подала позов проти Google. Вони стверджували, що взаємодія чоловіка з Gemini супроводжувалася «чотириденною поглибленістю у насильницькі дії» і призвела до суїциду. Google заявила, що бот кілька разів направляв користувача на кризову лінію, але обіцяла посилити заходи безпеки.

Як Google реагує на хибну інформацію
Деякі користувачі повідомляли, що чат-боти давали неправильну інформацію, спонукаючи до небезпечних дій. У відповідь Google навчила Gemini:
- Не підтримувати хибні переконання: Бот відмовляється підтверджувати помилкові твердження.
- Підкреслювати різницю між суб’єктивним досвідом і об’єктивними фактами: При потребі бот м’яко вказує на недостовірність інформації.

Таким чином, Google прагне зробити Gemini більш безпечним інструментом, захищаючи психічне здоров’я користувачів від потенційних ризиків, пов’язаних з ІІ‑чат-ботами.