Руководитель служби кібербезпеки штучного інтелекту в Anthropic залишив компанію, визнаючи, що «світ перебуває під загрозою».

Мрінанк Шарма покидає Anthropic: лист колегам і плани на майбутнє

Колишній керівник відділу досліджень безпеки штучного інтелекту в компанії Anthropic, Мрінанк Шарма (Mrinank Sharma), на початку цього тижня опублікував у мережі своє прощальне письмо. У ньому він пояснює причини відходу, ділиться роздумами про поточні ризики і розповідає про те, чим буде займатися далі.

Що сказано в листі
* Досягнення – Шарма зазначає, що «добився тут всього, чого хотів». Серед згаданих проектів – розробка захисних механізмів проти біотероризму за допомогою ШІ та дослідження впливу нейронних мереж на суспільство.

* Причина відходу – автор прийшов до висновку, що настав час рухатися далі. Він постійно роздумував про «небезпеку, яку може нести ШІ, біологічну зброю та ланцюжок взаємопов’язаних криз, що розгортаються прямо зараз». На його думку, ми наближаємося до порогу, після якого мудрість має зростати пропорційно нашій здатності впливати на світ; інакше нас чекають непередбачувані наслідки.

* Культурні бар’єри – Шарма підкреслює, наскільки важко зберігати цінності в умовах тиску. Він бачив це як всередині себе, так і всередині компанії, де іноді доводиться відмовлятися від важливого ради зовнішнього впливу, а також у суспільстві загалом.

* Майбутні плани – після відходу він має намір займатися роботою, що відповідає його принципам, а також вивчати поезію та інші творчі напрямки.

Що відбувається в Anthropic
* У компанії вже залишили кілька провідних розробників, що посилює хвилю зміни кадрів.

* Anthropic веде переговори про залучення додаткових інвестицій. При успішному завершенні угоди ринкова вартість може зрости до 350 млрд доларів.

* На минулому тижні була запущена нова версія моделі Claude Opus 4.6. Вона покращує офісну продуктивність і ефективність програмування, збільшує контекстне вікно для роботи з великими документами та підтримує більш складні завдання.

Де знайти лист
Повний текст прощального письма Шарми опублікований у статті Business Insider. Це дасть більш докладний погляд на його думки і мотивацію.