Квантование RWKV-7: что ломается в моделях разного размера
Я изучаю посттренировочное квантование семейства RWKV-7 (от 0.1B до 13.3B параметров) двумя пресетами: REDUCTION (сжатие около 2.1x, почти без потерь) и COMPRESSION (около 3.1x, 4 бита на проекции). И…
Хабр
Full text, translation and AI summary — after signing in
- The full article in your language
- AI summary and translation from the original
- The same account works in the Suviy app
Related coverage
Comments
Sign in to join the conversation. Sign in
No comments yet.