Оллама тепер підтримує апаратне прискорення на чіпах Apple M5, якщо встановлено 32 ГБ оперативної пам’яті
Ollama — застосунок для локального запуску моделей ШІ тепер швидший на чіпах M5 Mac
Що це виглядає
Нова версія Ollama 0.19
Підтримувані ОС: Windows, macOS, Linux
Апаратне прискорення: лише для чіпів Apple M5 (M5 Pro, M5 Max)
Вимоги до пам’яті: мінімум 32 ГБ уніфікованої RAM
Що змінилося
Ollama дозволяє користувачам завантажувати і запускати моделі штучного інтелекту прямо на своєму комп’ютері. На відміну від хмарних сервісів, як ChatGPT, тут не потрібне постійне підключення до мережі.
Починаючи з версії 0.19 розробники додали підтримку Apple MLX – фреймворка машинного навчання, а також уніфікованої пам’яті (Unified Memory Architecture). Це дозволяє прискорити роботу моделі на нових чіпах Apple M5, скорочуючи час до першого токену і підвищуючи загальну швидкість генерації.
Як це працює
* Нейроускорювачі: Ollama звертається до спеціалізованих нейросетевих блоків всередині чіпів M5, що робить виведення токенів більш швидким.
* Моделі: Швидше працюють як персональні агенти ШІ (наприклад, OpenClaw), так і більші системи – OpenCode, Anthropic Claude Code, OpenAI Codex тощо.
Обмеження
1. Прискорення доступне лише на чіпах Apple M5 (M5 Pro/Max).
2. На комп’ютері має бути встановлено не менше 32 ГБ уніфікованої пам’яті; інакше прискорення не спрацює.
Отже, якщо у вас Mac з чіпом M5 та достатнім об’ємом RAM, ви зможете значно підвищити продуктивність локального ШІ‑застосунку Ollama.
Коментарі (0)
Поділіться своєю думкою — будь ласка, будьте ввічливі та по темі.
Увійдіть, щоб коментувати