Перейти к содержанию

27B-модель на четырёх V100 в 2026 году: форк vLLM, INT4 на Volta и контекст 262K

Четыре Tesla V100 2017 года тянут в проде плотную Qwen3.8-27B в INT4 с окном 262 тысячи токенов — это модель zubr в ZuBrIQ (zubriq.ai), запросы к которой не покидают Беларусь. Официальный vLLM на этих…

Фото: Хабр
Хабр Россия · 13 ноября 2026

Это отрывок. Полный текст статьи — на сайте Хабр.

Читать в источнике

Полный текст, перевод и AI-сводка — после входа

  • Полный текст статьи на вашем языке
  • AI-сводка и перевод с оригинала
  • Тот же аккаунт работает в приложении Suviy

Бесплатно.

Комментарии

Войдите, чтобы присоединиться к обсуждению. Войти

Комментариев пока нет.