Локальный ассистент для зумов, часть 9: неделя на Nemotron
В четверг был звонок на 57 минут, восемь человек. Голоса собеседников Nemotron разметил за 7 секунд. Мой микрофон тогда ещё размечал sherpa. Потом я…
Последние новости
⚑ Сообщить о проблемеTech news from the best sources
Локальный ассистент для зумов, часть 8: модель, ради которой я поменял диаризацию за один вечер
В третьей части я написал, что не вижу чужой модели, ради которой стоит менять связку. sherpa-onnx на диаризации, свой второй проход поверх, канал с…
Running Qwen3.8-Flash-Next on a 128 GB Mac: The Expert-Pruning Trap, and a Memory-Mapped n-gram Table That Gets You to 240K Tokens
Hello, everyone. Have you ever wanted to run the smartest model you can on your own Mac? I have. The catch is that the smartest models are also the…
Дело о лишних размышлениях: почему вредно много думать
…Еще играясь с Qwen3.6 я дал ей стандартную handoff задачу от своей AI команды по проекту SwiftUI и QWEN cli ее так и не решил. Просто ушел в постоя…
Пять неправильных токенов и 245 картинок: как Krea 2 заработала на Swift и MLX
На обложке — команда, которой не было. В реальности Twisterminigen создавался за одним столом: я, Mac mini M4 с 32 ГБ объединённой памяти и Co…
56 минут созвона → текст за 5 минут на M4 без OBS и облака
У меня от трёх до пяти созвонов в день, почти все в браузере: Meet, Яндекс Телемост, ktalk, реже всего Zoom. Детали встреч мне нужны в тексте, иначе…
Переоценённый король
Самая вычислительно прожорливая индустрия в истории считает на языке, который медленнее C примерно в 70 раз и занял 26-е место из 27 по энергоэффект…
Как я свертки ускорял
После написания статьи про NormIs-1 я решил углубиться в тему оптимизации модели. Архитектура была неплохой и показала адекватные результаты на метр…
I Blamed the Model for Months. The Bug Was My Sampler.
I Blamed the Model for Months. The Bug Was My Sampler. 40GB In, Word Salad Out Running local LLMs on M1 Max hardware is one of those setups that loo…
6 моделей, 3 инфраструктурных задачи, 1 локальный AI-агент
В прошлой статье было показано, что обычный MacBook Pro M2 16GB может с оговорками решать инфраструктурные проблемы используя локальную LLM. В этой…
Qwen 3.6 enable_thinking — The MoE Pitfall That Broke My Agent JSON Parsing
Qwen 3.6 enable_thinking — The MoE Pitfall That Broke My Agent JSON Parsing I lost two hours last week to a Qwen 3.6 quirk that doesn't show up in a…
Running Qwen3.6-27B on a 16GB M1 MacBook Pro: A Practical Engineer’s Guide
Running Qwen3.6-27B on a 16GB M1 MacBook Pro: A Practical Engineer’s Guide Running a 27B model on a 16GB M1 MacBook Pro sounds a little unfair to th…
Локальный агент для диагностики инфраструктуры
В статье описаны результаты, которые получил в поисках ответа на вопрос "можно ли решать реальные задачи диагностики и исправления проблем инфрастру…