[Перевод] Как ускорить локальную LLM на 50% без покупки новой видеокарты
На GTC Berlin 2026 участники воркшопа NVIDIA смогли ускорить генерацию Qwen3-32B с 16,4 до 24,5 токена в секунду, не меняя оборудование. Для этого использовали FP8 вместо BF16. Общая пропускная…
Хабр
Pełny tekst, tłumaczenie i streszczenie AI — po zalogowaniu
- Pełny artykuł w Twoim języku
- Streszczenie AI i tłumaczenie z oryginału
- To samo konto działa w aplikacji Suviy
Komentarze
Zaloguj się, aby dołączyć do dyskusji. Zaloguj się
Brak komentarzy.