Оллама тепер підтримує апаратне прискорення на чіпах Apple M5, якщо встановлено 32 ГБ оперативної пам’яті

Оллама тепер підтримує апаратне прискорення на чіпах Apple M5, якщо встановлено 32 ГБ оперативної пам’яті

116 software

Ollama — застосунок для локального запуску моделей ШІ тепер швидший на чіпах M5 Mac

Що це виглядає
Нова версія Ollama 0.19
Підтримувані ОС: Windows, macOS, Linux
Апаратне прискорення: лише для чіпів Apple M5 (M5 Pro, M5 Max)
Вимоги до пам’яті: мінімум 32 ГБ уніфікованої RAM

Що змінилося
Ollama дозволяє користувачам завантажувати і запускати моделі штучного інтелекту прямо на своєму комп’ютері. На відміну від хмарних сервісів, як ChatGPT, тут не потрібне постійне підключення до мережі.

Починаючи з версії 0.19 розробники додали підтримку Apple MLX – фреймворка машинного навчання, а також уніфікованої пам’яті (Unified Memory Architecture). Це дозволяє прискорити роботу моделі на нових чіпах Apple M5, скорочуючи час до першого токену і підвищуючи загальну швидкість генерації.

Як це працює
* Нейроускорювачі: Ollama звертається до спеціалізованих нейросетевих блоків всередині чіпів M5, що робить виведення токенів більш швидким.
* Моделі: Швидше працюють як персональні агенти ШІ (наприклад, OpenClaw), так і більші системи – OpenCode, Anthropic Claude Code, OpenAI Codex тощо.

Обмеження
1. Прискорення доступне лише на чіпах Apple M5 (M5 Pro/Max).
2. На комп’ютері має бути встановлено не менше 32 ГБ уніфікованої пам’яті; інакше прискорення не спрацює.

Отже, якщо у вас Mac з чіпом M5 та достатнім об’ємом RAM, ви зможете значно підвищити продуктивність локального ШІ‑застосунку Ollama.

Коментарі (0)

Поділіться своєю думкою — будь ласка, будьте ввічливі та по темі.

Поки немає коментарів. Залиште коментар — поділіться своєю думкою!

Щоб залишити коментар, увійдіть в акаунт.

Увійдіть, щоб коментувати