Аmazon‑працівники застосовують штучний інтелект лише для звітності, а не для реальних результатів

Як генеративний штучний інтелект стає «метрикою» ефективності працівників

Зростаюча популярність технологій генеративного штучного інтелекту (ШІ) змушує компанії все частіше вимагати від своїх співробітників демонструвати практичні досягнення у роботі з цими системами. У відповідь на такий тиск виник новий феномен: працівники доручають ШІ безглузді завдання лише для покращення своєї статистики використання технології.

Фінансовий Таймс описує ситуацію в Amazon

У статті Financial Times розповідається, як працівники гіганта електронної комерції все активніше застосовують програмне рішення MeshClaw. Це агент підключається до робочих інструментів співробітників і може виконувати завдання від їх імені. Деякі з них використовують його для автоматизації фактично безполезних дій, щоб підвищити свій особистий рейтинг ефективності освоєння ШІ.

Причина – посилюваний тиск зі сторони керівництва: тепер понад 80 % розробників зобов’язані використовувати ШІ щотижня. Для кожного співробітника ведеться окрема статистика, і ті, хто відстає від цільових показників, змушені пояснювати це керівництву. Хоча формально менеджери не повинні оцінювати працівників за даними про використання токенів ШІ, останнім часом з’явилися підозри, що саме так і відбувається.

У такому середовищі у деяких співробітників Amazon виникають хибні стимули: вони імітують високу активність задля особистої вигоди, а не ради користі компанії. Це особливо важливо для тих технологічних гігантів, які інвестують величезні суми в інфраструктуру ШІ та хочуть показати інвесторам і керівництву реальну користь від впровадження.

Як Amazon управляє даними про роботу з ШІ

Amazon планує витратити цього року близько 200 млрд доларів на капітальні витрати. Щоб переконатися, що технології дійсно застосовуються, компанія посилює контроль над використанням ШІ. Спочатку публікувалася групова статистика щодо використання ШІ співробітниками, але тепер доступ до індивідуальних результатів мають лише самі спеціалісти та їх безпосереднє керівництво. Керівникам формально заборонено використовувати ці дані для оцінки ефективності персоналу.

Ситуація в інших технологічних компаніях

Financial Times відзначає, що подібні порушення спостерігаються й у Meta Platforms. MeshClaw, розроблений більш ніж 30 спеціалістами Amazon, здатен завантажувати програмний код у продакшн‑версії, сортувати листи та взаємодіяти з застосунками типу Slack. Багато співробітників висловлюють занепокоєння безпекою таких рішень: ШІ може генерувати помилки, а контроль над його діями залишається слабким.

Таким чином, зростання вимог до використання генеративного ШІ призводить до створення «метрик» ефективності, які іноді стають метою самими по собі, а не засобом досягнення реальних бізнес‑результатів.