OpenAI сомневается в эффективности ускорителей Nvidia для инференса и активно ищет их замену

Что происходит в мире ИИ‑технологий

Как разрабатываются новые решения

1. OpenAI → Cerebras + Groq
- Компания хочет заменить до 10 % своих ускорителей на чипы сторонних поставщиков, которые лучше подходят для инференса.
- Партнёрство с Cerebras уже заключено: OpenAI будет покупать у них «царь‑ускорители», отличные в обработке больших языковых моделей.

2. Groq и Nvidia
- В прошлом году Nvidia приобрела Groq за 20 млн долларов, предложив более выгодную структуру сделки.
- После покупки Groq потерял часть своей автономии: большинство разработчиков ускорителей перешли в штат Nvidia, а остальная часть компании теперь может продавать только ПО для облачных систем.

3. AMD и другие варианты
- OpenAI до сих пор сильно зависит от ускорителей Nvidia и AMD, которые используют внешнюю память HBM.
- Для инференса лучше подходят чипы с большим объёмом интегрированной памяти – именно такие предлагают Groq, Cerebras и Google.

Почему всё это важно

- Эффективность инференса – критически важна для работы крупных языковых моделей (ChatGPT, Codex).
- Проблема в Codex – при разработке ИИ‑агента Codex OpenAI столкнулась с неэффективностью ускорителей Nvidia. Это подчёркивает необходимость смены аппаратной платформы.
- Будущая альтернатива – OpenAI планирует использовать решения Cerebras и, возможно, другие чипы, чтобы повысить производительность своих инструментов для разработчиков.

Итоги

OpenAI активно ищет новые технологические партнёры, чтобы не зависеть полностью от Nvidia. Параллельно компания разрабатывает стратегию инвестиций в стартапы (Cerebras, Groq), а также рассматривает крупные сделки с Nvidia и потенциальными вложениями до 100 млн долларов. Это поможет улучшить инференс и ускорить развитие ИИ‑продуктов.