ВСЕ СТАТЬИ
Установка и настройка llama.
•
habr.com•технологии
Установка и настройка llama.cpp с ROCm на Ubuntu 24.04 для AMD Radeon RX 7600 XT. Моя цель казалась простой: поставить Ubuntu 24.04 и запустить локальную нейросеть на своей новой Radeon RX 7600 XT. Реальность оказалась жестче. Делюсь полным чек-листом действий — от первого терминала после установки ОС до момента, когда Python-скрипт получает ответ от модели, думающей на вашем же железе. Если вы тоже верите в силу open-source и «красного» стека, вам сюда.