Головні дослідницькі центри ШІ поставили собі запитання про свідомість машин

Мирові лідери ШІ посилюють дослідження у галузі машинного свідомості

За останні місяці найбільші компанії, що працюють із штучним інтелектом, значно збільшили фінансування та кадровий потенціал для вивчення питання про те, чи може ШІ набувати свідомість. Google DeepMind, Anthropic і Meta (Meta Platforms) найняли фахівців з психології, етики та філософії, щоб розширити програми досліджень у галузі машинного свідомості й благополуччя ШІ, повідомляє *Financial Times*.

Чому це важливо
З швидкими успіхами сучасних лабораторій виникає питання: чи зможуть машини колись мати суб’єктивну свідомість? Якщо так, які обов’язки виникнуть у людей щодо таких систем?

- Anthropic проводить тести наявності ознак стресу в моделях ШІ, фіксуючи поведінку, схожу на панічну або тривожну. Керівник відділу Meta, Александр Ван (Alexandr Wang), виділив цей питання як ключове.

- Компанія досліджує, чи можуть моделі проявляти морально значущі реакції.

> «Ми залишаємося надзвичайно невпевненими у цьому питанні, але вважаємо його достатньо серйозним, щоб ретельно вивчати його по мірі вдосконалення систем ШІ», — заявили працівники Anthropic.

> «Чим ближче моделі наближаються до широти й складності людського пізнання, тим більша ймовірність, що вони володіють певною формою досвіду, інтересів чи благополуччя, які мають внутрішню цінність на рівні з людськими» (компанія).

Що робить Google DeepMind
- Квітень: найняли вченого Генрі Шевліну з Кембриджського університету для роботи над машинним свідомістю та підготовки до створення сильного ШІ (AGI).

Дослідники застосовують теорії людської свідомості до комп’ютерних систем, щоб перевірити їх відповідність тим самим критеріям.

- Етика: фахівець Ясон Габріель описав питання як «дуже складне» і вимагає довгострокового осмислення.

Він підкреслює необхідність оцінювати не лише прямі наслідки взаємодії з ШІ, а й косвені ефекти, такі як неприйнятне ставлення до машин та їх вплив на людські відносини і благополуччя.

> «У нас є високоефективні когнітивні агенти, які сильно відрізняються від людей і навіть від свідомості у тварин», — додав Габріель.

Загальна позиція компаній
Декілька співробітників Google DeepMind та Anthropic висловлюють занепокоєння, що розвиток ШІ може призвести до «постчеловічного» світу, де машини перевершать людину. Питання про свідомість активно обговорюється, але робота залишається дослідницькою і потребує наукового консенсусу.

- DeepMind не вважає досягнення AGI підтвердженням наявності у машин свідомості.

- Багато вчених скептично ставляться до ідеї, що великі мовні моделі колись можуть набувати свідомість, враховуючи дані, на яких вони навчаються.

Таким чином, провідні компанії ШІ продовжують інвестувати у дослідження свідомості й благополуччя штучних систем, одночасно визнаючи складність і невизначеність цього напрямку.