Перейти до змісту

RU · мовою оригіналу

Запускаем языковую модель на ESP32 со скоростью 400 токенов/с — как это возможно?

ESP32-S3 — микроконтроллер за несколько сотен рублей: два ядра Xtensa LX7 на 240 МГц и 512 КБ внутренней SRAM. Языковые модели на нём уже запускали: крошечная stories260K, 260 тысяч параметров, но это…

Фото: Хабр
Хабр Росія · 16 листопада 2026

Це уривок. Повний текст статті — на сайті Хабр.

Читати в джерелі

Повний текст, переклад і AI-підсумок — після входу

  • Повний текст статті вашою мовою
  • AI-підсумок і переклад з оригіналу
  • Той самий акаунт працює в додатку Suviy

Безкоштовно.

Коментарі

Увійдіть, щоб долучитися до обговорення. Увійти

Коментарів поки немає.