Локальный ассистент для зумов, часть 9: неделя на Nemotron
В четверг был звонок на 57 минут, восемь человек. Голоса собеседников Nemotron разметил за 7 секунд. Мой микрофон тогда ещё размечал sherpa. Потом я…
Latest News
⚑ Report a ProblemTech news from the best sources
All topics
- игры
AI
News
Tech
agents
ai
api
architecture
automation
backend
beginners
career
devchallenge
devops
javascript
llm
machinelearning
mcp
opensource
performance
productivity
programming
python
react
security
showdev
testing
tutorial
typescript
webdev
Локальный ассистент для зумов, часть 8: модель, ради которой я поменял диаризацию за один вечер
В третьей части я написал, что не вижу чужой модели, ради которой стоит менять связку. sherpa-onnx на диаризации, свой второй проход поверх, канал с…
Running Qwen3.8-Flash-Next on a 128 GB Mac: The Expert-Pruning Trap, and a Memory-Mapped n-gram Table That Gets You to 240K Tokens
Hello, everyone. Have you ever wanted to run the smartest model you can on your own Mac? I have. The catch is that the smartest models are also the…
Дело о лишних размышлениях: почему вредно много думать
…Еще играясь с Qwen3.6 я дал ей стандартную handoff задачу от своей AI команды по проекту SwiftUI и QWEN cli ее так и не решил. Просто ушел в постоя…
Пять неправильных токенов и 245 картинок: как Krea 2 заработала на Swift и MLX
На обложке — команда, которой не было. В реальности Twisterminigen создавался за одним столом: я, Mac mini M4 с 32 ГБ объединённой памяти и Co…
56 минут созвона → текст за 5 минут на M4 без OBS и облака
У меня от трёх до пяти созвонов в день, почти все в браузере: Meet, Яндекс Телемост, ktalk, реже всего Zoom. Детали встреч мне нужны в тексте, иначе…
Переоценённый король
Самая вычислительно прожорливая индустрия в истории считает на языке, который медленнее C примерно в 70 раз и занял 26-е место из 27 по энергоэффект…
Как я свертки ускорял
После написания статьи про NormIs-1 я решил углубиться в тему оптимизации модели. Архитектура была неплохой и показала адекватные результаты на метр…
I Blamed the Model for Months. The Bug Was My Sampler.
I Blamed the Model for Months. The Bug Was My Sampler. 40GB In, Word Salad Out Running local LLMs on M1 Max hardware is one of those setups that loo…
6 моделей, 3 инфраструктурных задачи, 1 локальный AI-агент
В прошлой статье было показано, что обычный MacBook Pro M2 16GB может с оговорками решать инфраструктурные проблемы используя локальную LLM. В этой…
Qwen 3.6 enable_thinking — The MoE Pitfall That Broke My Agent JSON Parsing
Qwen 3.6 enable_thinking — The MoE Pitfall That Broke My Agent JSON Parsing I lost two hours last week to a Qwen 3.6 quirk that doesn't show up in a…
Running Qwen3.6-27B on a 16GB M1 MacBook Pro: A Practical Engineer’s Guide
Running Qwen3.6-27B on a 16GB M1 MacBook Pro: A Practical Engineer’s Guide Running a 27B model on a 16GB M1 MacBook Pro sounds a little unfair to th…
Локальный агент для диагностики инфраструктуры
В статье описаны результаты, которые получил в поисках ответа на вопрос "можно ли решать реальные задачи диагностики и исправления проблем инфрастру…