Skip to content

RU · in the original language

27B-модель на четырёх V100 в 2026 году: форк vLLM, INT4 на Volta и контекст 262K

Четыре Tesla V100 2017 года тянут в проде плотную Qwen3.8-27B в INT4 с окном 262 тысячи токенов — это модель zubr в ZuBrIQ (zubriq.ai), запросы к которой не покидают Беларусь. Официальный vLLM на этих…

Photo: Хабр
Хабр Russia · 13 November 2026

This is an extract. The full article is on Хабр.

Read at the source

Full text, translation and AI summary — after signing in

  • The full article in your language
  • AI summary and translation from the original
  • The same account works in the Suviy app

Free.

Comments

Sign in to join the conversation. Sign in

No comments yet.