RU

Какую MoE-модель выбрать для локального кодинга на GTX 1080 Ti: перплексия против реальной скорости

В одной из своих статей , посвященной тестированию возможности запуска локальной модели на домашнем ПК, с не самой сильной и новой видеокартой, я по…

искусственный интеллектисследованиеgtx 1080видеокартыстарое компьютерное железоaiбенчмарк
Habr
RU

GTX 1080 Ti не сдаётся: выбираем лучшую MoE-модель для llama-server среди 35B, 120B и 176B

Привет, Хабр! В прошлой статье я рассказывал, как запустить 176B-класс Qwen3.8-Flash-Next на GTX 1080 Ti, и тогда это был, скорее, эксперимент на гр…

aillm-моделиllama.cppserverэкспериментстарое компьютерное железовидеокартаgtx 1080vram