OpenAI интегрирует безопасность в ИИ‑агентов, приобретая стартап Promptfoo

OpenAI приобретает стартап Promptfoo

Компания OpenAI заключила соглашение о покупке двухлетнего стартапа Promptfoo, который разрабатывает инструменты для проверки безопасности искусственного интеллекта ещё на этапе его создания. По данным Bloomberg, цель сделки – уменьшить риски для клиентов, использующих ИИ‑решения, и привлечь крупный корпоративный рынок.

Кто такой Promptfoo?

- Основан: 2022 г.
- Местонахождение: Сан‑Франциско.
- Услуги: открытый код для тестирования нейросетей, включая «красную команду» (red‑team), где специалисты имитируют атаки на собственные модели, выявляя слабости до того, как их найдут злоумышленники.
- Клиенты: около 25 % компаний из списка Fortune 500.

Что изменится после интеграции?

Технологии Promptfoo будут внедрены в корпоративную платформу OpenAI – Frontier. Это даст Frontier автоматизированное тестирование, мониторинг изменений и систему отчётности о проверках, соответствующих требованиям безопасности.

Реакция инвесторов

Ганеш Белл (CEO Insight Partners), который руководил раундом финансирования Promptfoo на 18,4 млн долларов в прошлом году, отметил: «Покупка демонстрирует явную приверженность OpenAI созданию корпоративного ИИ, который будет не только мощным, но и безопасным и надёжным при масштабировании». Финансовые детали сделки пока не раскрываются.

Будущее Promptfoo

OpenAI продолжит развивать открытый исходный код Promptfoo параллельно с его коммерческой интеграцией. Недавно компания уже представила ИИ‑агента, способного находить и устранять уязвимости в базах данных – аналогичный инструмент Anthropic PBC.