Китайські вчені переходять з інференсу до навчання моделей ШІ на прискорювачах Huawei

Китайські чіпи Huawei успішно завершили посттренування моделі DeepSeek‑V4‑Pro

*За повідомленням South China Morning Post, у Китаї вдалося застосувати чіпи Huawei Ascend 910C для повної доработки великої ІІ‑моделі DeepSeek‑V4‑Pro. Це важливий крок у розвитку внутрішньої полупровідникової галузі, яка прагне перейти від простого інференсу до складного навчання в умовах посилення американських санкцій.*

Що сталося
Етап | Опис | Запуск проекту
--- | --- | ---
Розробницька група з Huawei Technologies та партнерів (Шеньчженьський інститут колісних доріг, Шеньчженьський кампус Харбінського технологічного інституту, Шеньчженьський науково‑дослідний інститут великих даних) розпочала проект з метою навчання моделі DeepSeek‑V4‑Pro. | Масштаб: Модель містить 1,6 трильйона параметрів і була запущена на кластері мінімум 1000 чіпів Ascend 910C. | Посттренування: Повністю «параметричне» донавчання – вся архітектура моделі оновилася без компромісів, а не лише окремі шари.

Чому це важливо
* До недавнього часу китайські чіпи успішно використовувалися для інференсу – процесу, де модель просто відповідає на запити.
* Тепер, завдяки новому проекту, модель може саморефлексувати і коригуватись під час роботи, що додає «складні естакади та петлі» до раніше одностороннього потоку даних. Це збільшує обчислювальні й комунікаційні вимоги, але робить систему більш автономною.

Очікувані результати
* Уряд Шеньчжені заявив, що дослідження допоможе підвищити самодостатність китайської індустрії штучного інтелекту та зміцнить позиції внутрішніх мікросхем у умовах зовнішніх обмежень.