НVIDIA готується до бою за інференс, створюючи чіп на основі технологій Groq для OpenAI та ІІ‑агентів.

Новий чіп Nvidia – крок до швидших ІІ‑застосунків

Nvidia планує презентувати в березні новий процесор, створений спеціально для прискорення інференсу (обчислень вже навченої моделі) і орієнтований на клієнтів типу OpenAI. Це зміна напрямку компанії, яка раніше переважно зосереджувалася на навчанні ІІ‑систем.

Що саме з’явиться
- Нова платформа буде представлена на конференції розробників GTC (Graphics Technology Conference).

- У ядро платформи увійде чіп від стартапу Groq – одного з найшвидших рішень для інференсу.

- Платформа має конкурувати зі власними прискорювачами Google і Amazon, які вже досягли значних успіхів.

Чому це важливо
Зростаюча популярність «веб‑кодингу» (генерація коду ІІ за текстом) збільшує попит на швидку та енергоефективну інфраструктуру.

Для OpenAI новий процесор стає ключовим фактором:

- У січні компанія уклала угоду з Cerebras про чіп, орієнтований на інференс, який, за їх оцінкою, швидший за конкурентів.

- Раніше OpenAI оголосила про велику угоду з Nvidia, у рамках якої вони отримали «призначені потужності для інференсу» і інвестували 30 млн доларів від «зеленої» виробника.

Конкурентне середовище
| Компанія | Продукт | Орієнтація |
|---|---|---|
| Nvidia | GPU сімейства Hopper, Blackwell, Rubin | Навчання і інференс |
| Google | TPU | Інференс |
| Amazon | Trainium | Інференс |
| Cerebras | Спеціалізований чіп | Інференс |
| Groq | Чіпи з «блоками мовної обробки» | Інференс |

Nvidia утримує понад 90 % ринку GPU, але її чіпи часто вважаються дорогими та енергоємкими для задач інференсу. Це привертає увагу компаній, що шукають альтернативу.

Ключові застосування
- Генерація коду: сервіси Claude Code (Anthropic) і Codex (OpenAI) використовують хмарні інфраструктури Amazon та Google, але Codex планує перейти на нову платформу Nvidia.

- Таргетинг реклами: Meta співпрацює з Nvidia для інференсу ІІ‑систем, де центральні процесори виявляються найефективнішими.

Висновок
Nvidia не лише розширює свою лінійку продуктів, а й вступає у пряму конкуренцію з гігантами галузі. Новий чіп, інтегрований зі стартапом Groq, може стати вирішальним фактором для компаній, що прагнуть до швидшої та економічнішої обробки ІІ‑моделей.