Лайфхак с Shared GPU Memory Override или как я запускал нейросети на мини-ПК (на примере GEEKOM GT1 Mega)
Неочевидный момент - на мини-компьютерах можно отдать практически всю оперативную память для интегрированного GPU, что позволяет запускать LLM типа 26B/27B, без необходимости покупать дорогостоящие…
Хабр
Повний текст, переклад і AI-підсумок — після входу
- Повний текст статті вашою мовою
- AI-підсумок і переклад з оригіналу
- Той самий акаунт працює в додатку Suviy
Коментарі
Увійдіть, щоб долучитися до обговорення. Увійти
Коментарів поки немає.