27B-модель на четырёх V100 в 2026 году: форк vLLM, INT4 на Volta и контекст 262K
Четыре Tesla V100 2017 года тянут в проде плотную Qwen3.8-27B в INT4 с окном 262 тысячи токенов — это модель zubr в ZuBrIQ (zubriq.ai), запросы к которой не покидают Беларусь. Официальный vLLM на этих…
Хабр
Volltext, Übersetzung und KI-Zusammenfassung — nach der Anmeldung
- Der vollständige Artikel in Ihrer Sprache
- KI-Zusammenfassung und Übersetzung aus dem Original
- Dasselbe Konto funktioniert in der Suviy-App
Kommentare
Melden Sie sich an, um mitzudiskutieren. Anmelden
Noch keine Kommentare.