ОпенАй призначив «керівника з підготовки», який буде курувати безпеку штучного інтелекту

OpenAI призначив нового керівника з безпеки штучного інтелекту

У світлі зростаючих питань щодо безпечного використання ШІ компанія OpenAI оголосила про новий член штатної команди – Ділана Скандінора у посаді *Head of Preparedness* (директор з підготовки).

Хто такий Ділан Скандінор?
ПеріодКомпаніяРольМай 2023 – лютий 2024AnthropicКерівник проектів з безпеки ШІСерпень 2022 – травень 2025DeepMind (Google)Спеціаліст зі синтетичних даних для навчання GeminiДо 2022Palantir, Unity Technologies, Everyday RobotsРізні посади в галузі машинного навчання та розробки ПЗ
Скандінор відомий тим, що на попередніх місцях роботи займався аналогічними завданнями з зниження ризиків при розробці ШІ‑моделей.

Що означає нове призначення?
* Роль: Ведуча позиція в команді «підготовки» – відповідальний за підготовку та впровадження заходів, які дозволять розробляти потужні моделі без загрози для користувачів.

* Умови: Гонорар $550 000 на рік плюс акції OpenAI.

* Контекст: З 2023 р. у компанії діє «команда підготовки», яку раніше очолював Александр Мадрі, спеціаліст з MIT.

Як бачить ситуацію керівник OpenAI
Генеральний директор Сем Альтман зазначив, що зі швидким розвитком моделей компанія буде стикається з новими й більш серйозними ризиками. Він підкреслив:

> «Ми будемо працювати над дуже потужними моделями. Це вимагатиме відповідних заходів безпеки, щоб забезпечити подальше надання великих вигод».

Альтман висловив впевненість у компетенціях Скандінора:

*«Він найкращий кандидат на цю роль з усіх людей, яких я коли‑небудь зустрічав», – сказав він.*

Він додав, що завдяки новому керівнику команда зможе сконцентруватися на довгостроковій безпеці і «буде спати спокійніше».

Що очікується від Скандінора?
Скандінор сам визнав, що швидко розвиваючі ШІ‑моделі можуть викликати «екстремальний й навіть необратимий збиток». Тому перед ним стоїть завдання:

* розробити стратегії мінімізації ризиків;

* впровадити практики безпечного навчання та експлуатації моделей;

* координувати зусилля всього колективу OpenAI у цій області.

Висновок
OpenAI розширює свою структуру безпеки, залучаючи досвідченого спеціаліста із провідних компаній галузі. Нове призначення підкреслює прагнення компанії до відповідальної розробки ШІ та підготовки до можливих викликів майбутнього.