ОпенАй ліквідував два відділи безпеки ШІ задля вигоди, повідомляє колишній співробітник стартапу

ОпенАй ліквідував два відділи безпеки ШІ задля вигоди, повідомляє колишній співробітник стартапу

20 software

Свідчення колишніх співробітників OpenAI у суді за справою Ілона Маска

У федеральному суді Окленда (Каліфорнія) двоє колишніх працівників OpenAI подали свідчення в рамках позову Ілона Маска проти компанії. Вони стверджують, що прагнення до комерціалізації продуктів ШІ підривало зобов’язання стартапу щодо безпеки, а генеральний директор Сем Альтман систематично вводив радіо в оману.

1. Досвід Рози Кампбелл
- Період роботи: 2021‑2024 у команді підготовки до AGI (Artificial General Intelligence).

- Ключовий аргумент: OpenAI перетворилася з дослідницької організації в комерційну структуру. Команда, якою вона керувала, була розформована, а група *Super Alignment* – відповідальна за дотримання людських цінностей ШІ – закрита.

- Приклад порушення безпеки: Microsoft запустила GPT‑4 в Індії через Bing без схвалення Департаменту з безпеки розгортання (DSB) OpenAI.

- Реакція адвокатів OpenAI: На перехресному допиті Кампбелл визнає, що «за її припущеним переконанням» підхід до безпеки в компанії все ж краще, ніж у xAI – ШІ-компанії Маска, яку SpaceX поглинула на початку 2026 року.

2. Історія звільнення Альтмана
- Причини: У 2023 році радіо тимчасово звільнило Альтмана після скарг співробітників щодо стилю керівництва. Серед критиків були колишній головний науковий співробітник Ілля Суцкевер та технічний директор Міра Мураті, які стверджували, що генеральний директор уникнув конфліктів.

- Таша Макколі (член радіо в той час) розповіла про те, як Альтман вводив радіо в оману:

- Підробка щодо намірів звільнити Хелен Тонер (автор критичної аналітики з безпеки).

- Неінформування радіо про запуск ChatGPT у відкритий доступ.

- Приховування можливих конфліктів інтересів.

- Результат: Радіо втратило впевненість, що отримана інформація достатня для обґрунтованих рішень.

3. Наслідки та реакція
- Звільнення Альтмана збіглося з пропозицією про викуп акцій співробітникам.

- Персонал OpenAI підтримав колишнього CEO, а Microsoft вимагала відновлення попереднього порядку. У результаті радіо відступило, а прихильники Альтмана пішли у відставку.

- Маск використав цей інцидент як доказ того, що перетворення OpenAI з дослідницького проекту в крупну приватну компанію порушило «непублічний договір» засновників.

4. Експертна думка
Дейвід Шайзер (колишній декан юридичного факультету Колумбійського університету та запрошений експерт Маска) підкреслив:

> *«OpenAI заявляла, що безпека – ключова частина її місії, і пріоритетніше прибуток. Якщо щось має пройти перевірку на безпеку, вона повинна відбутися. Суть у процедурі.»*

5. Позиція Таши Макколі
Макколі вважає, що провали управління в OpenAI підкреслюють необхідність державного регулювання ШІ:

> *«Якщо рішення приймає один генеральний директор, а на кону громадські інтереси – це надзвичайно неудачна конструкція.»*

Коротко: Колишні працівники відкрили суду, як комерційна орієнтація та маніпуляції з боку керівництва підривали зобов’язання OpenAI щодо безпеки. Їх свідчення посилюють аргументи Маска про те, що компанія порушила власні принципи, а також підтримують заклики до більш жорсткого регулювання штучного інтелекту.

Коментарі (0)

Поділіться своєю думкою — будь ласка, будьте ввічливі та по темі.

Поки немає коментарів. Залиште коментар — поділіться своєю думкою!

Щоб залишити коментар, увійдіть в акаунт.

Увійдіть, щоб коментувати