[Перевод] Почему MoE-модель тормозит? Чек-лист из трех шагов
Вы запускаете большую MoE‑модель (например, Qwen, DeepSeek, Mixtral) на локальной машине через llama.cpp / llama-server , но скорость генерации токе…
Latest News
⚑ Report a ProblemTech news from the best sources
All topics
- Искусственный интеллект, машинное обучение, нейросети
- Новости сети
- автомобили, мотоциклы, транспортные средства
- вирусы, трояны, уязвимости в ПО, вопросы безопасности
- игры
- космос
- мобильные телефоны, смартфоны, сотовая связь, коммуникаторы, КПК
- модули ОЗУ, карты памяти, флеш-накопители, кардридеры
- на острие науки
- процессоры
LLM
ai
ai-агенты
claude
devops
llm
open source
python
ruvds_статьи
Статьи
автоматизация
ии
ии-агенты
информационная безопасность
искусственный интеллект
машинное обучение
нейросети
программирование
разработка
тестирование
Превращение 256ГБ SSD в 320ГБ SSD без пайки и регистрации
Как сжать данные на диске на компьютере/ноутбуке? Почему нажимать эту кнопку не стоит? Что использовать вместо этой кнопки? Я хочу знать больше
Разбор утечки памяти в StackExchange.Utils: как 4 КБ конфигурации съели 2 ГБ RAM
Привет, Хабр! Я Антон Пронькин, разработчик в команде развития сервисов продаж для юридических лиц в Т-Банке. Расскажу, как мы переносили конфигурац…
Принципы диагностики и траблшутинга компьютерных сетей
На основе этой статьи была составлена и прочитана лекция на одном обучающем мероприятии для телекоммуникационной сферы. В статье описан практикуемый…
kubectl describe pod: как читать вывод, в котором Kubernetes уже написал причину
Статья о том, как читать kubectl describe pod не как длинный вывод, а как историю жизни Pod’а: кто его создал, куда его пытались поставить, скачался…