Лайфхак с Shared GPU Memory Override или как я запускал нейросети на мини-ПК (на примере GEEKOM GT1 Mega)
Неочевидный момент - на мини-компьютерах можно отдать практически всю оперативную память для интегрированного GPU, что позволяет запускать LLM типа 26B/27B, без необходимости покупать дорогостоящие…
Хабр
Полный текст, перевод и AI-сводка — после входа
- Полный текст статьи на вашем языке
- AI-сводка и перевод с оригинала
- Тот же аккаунт работает в приложении Suviy
Комментарии
Войдите, чтобы присоединиться к обсуждению. Войти
Комментариев пока нет.