ОпенАй інтегрує безпеку у ІІ‑агентів, придбавши стартап Promptfoo

OpenAI придбає стартап Promptfoo

Компанія OpenAI уклала угоду про купівлю дво-річного стартапу Promptfoo, який розробляє інструменти для перевірки безпеки штучного інтелекту ще на етапі його створення. За даними Bloomberg, мета угоди – знизити ризики для клієнтів, що використовують рішення ІІ, і залучити великий корпоративний ринок.

Хто такий Promptfoo?

- Засновано: 2022 р.
- Місцезнаходження: Сан‑Франциско.
- Послуги: відкритий код для тестування нейронних мереж, включаючи «червону команду» (red‑team), де фахівці імітують атаки на власні моделі, виявляючи слабкості до того, як їх знайдуть зловмисники.
- Клієнти: близько 25 % компаній зі списку Fortune 500.

Що зміниться після інтеграції?

Технології Promptfoo будуть впроваджені в корпоративну платформу OpenAI – Frontier. Це дасть Frontier автоматизоване тестування, моніторинг змін і систему звітності про перевірки, що відповідають вимогам безпеки.

Реакція інвесторів

Ганеш Белл (CEO Insight Partners), який керував раундом фінансування Promptfoo на 18,4 млн доларів у минулому році, зазначив: «Купівля демонструє явну відданість OpenAI створенню корпоративного ІІ, який буде не лише потужним, а й безпечним і надійним при масштабуванні». Фінансові деталі угоди поки що не розкриваються.

Майбутнє Promptfoo

OpenAI продовжить розвивати відкритий вихідний код Promptfoo паралельно з його комерційною інтеграцією. Нещодавно компанія вже представила ІІ‑агента, здатного знаходити і усувати вразливості у базах даних – аналогічний інструмент Anthropic PBC.