ВСЕ СТАТЬИ
La Perf — бенчмарк локального ИИ, или M-серия наносит ответный удар.
habr.comтехнологии
•
habr.com•технологии
La Perf — бенчмарк локального ИИ, или M-серия наносит ответный удар. Если вам интересен мир ИИ и вы хотите не просто делать fit, predict на удаленной ВМ, а изучать что-то локально, экспериментировать и упрощать себе жизнь, запуская модели прямо на своем девайсе — скорее всего, вам понадобится достаточно мощное железо. Эта статья - попытка ответить на вопрос эффективности железа для популярных AI задач: LLM, VLM, эмбэддинги. Она будет полезна как ML/AI Инженерам, так и просто Энтузиастам, которые выбирают себе железо для локального инференса gpt-oss.