RU

Локальный ассистент для зумов, часть 10: NLI — три места, куда я его примерял, и два, откуда ушёл

Бюджет на квартал согласован и бюджет на квартал не согласован. Для эмбеддингов это почти одна фраза: слова те же, частица не в векторе весит мало.…

nlimdebertaonnxruntimebge-m3эмбеддингидедупликациялокальные моделиqwenграф встречopen source
Habr
RU

Нафиг NVIDIA! Я запустил Qwen на FPGA за $50 — а свой TPU назвал бы «КЕДР». Часть 1

Я хотел разработать собственный AI-процессор , нашёл openTPU , купил FPGA за $50 с 4ГБ памяти, подключил её к обычному мини-ПК и запустил на ней язы…

fpgakintex-7opentpullmлокальные llmqwenинференсai-ускорительopen source
Habr
RU

Гига Писарь Большое обновление для мака, в котором мы навели красоту и перестали вам мешать

Привет, Хабр! Это обновление для тех, кто диктует на маке, и оно самое заметное за всё время. Окно настроек Гига Писаря переделано полностью: новое…

гига писарьgigaamдиктовкараспознавание речиmacosopen sourceлокальная нейросетьqwengigachatвайбкодинг
Habr
RU

Гига Писарь: полторы недели после первой статьи. Сколько установок и какие грабли

Привет, Хабр! С моей первой статьи прошло чуть больше недели, я не ждал, что её вообще одобрят, у меня до этого даже аккаунта на Хабре не было. Прог…

гига писарьgigaamдиктовкараспознавание речиmacosopen sourceлокальная нейросетьqwengigachatвайбкодинг
Habr
RU

Гига Писарь: полторы недели после первой статьи. Сколько установок и какие грабли

Привет, Хабр! С моей первой статьи прошло чуть больше недели, я не ждал, что её вообще одобрят, у меня до этого даже аккаунта на Хабре не было. Прог…

гига писарьgigaamдиктовкараспознавание речиmacosopen sourceлокальная нейросетьqwengigachatвайбкодинг
Habr
RU

Мой опыт с Hermes Agent — ненависть, любовь, ненависть, любовь

Началось все с установки. Я пошёл почти по самому простому пути - установил его на Mac, в Docker. Потому что это агент, который работает автономно и…

hermes agentai-агентыllmлокальный llmлокальные моделиqwenagentic workflowsai automationworkflowgo
Habr
RU

False positive под небом цвета телевизора, настроенного на мертвый канал

В «Ростелекоме», как в любом крупном корпоративном контуре, SAST-поток исчисляется тысячами срабатываний. Ручной триаж перестает быть инженерной раб…

llm-моделиllmинформационная безопасностьинференсинференс моделейsastqwentriage
Habr
RU

Как я пытался создать шедевр в Qwen, Luma и Pika, и что из этого вышло

Помните, как полтора-два года назад в коротких видео стали появляться видео сомнительного качества, которые можно с легкостью пометить как сгенериро…

selectelopen sourcellmvideoqwenlumapikaииии и машинное обучение
Habr
RU

Tesla v100 SXM2  X2 32GB total

 В этом материале я разбираю практический кейс: развёртывание Qwen3.6-27B на двух Tesla V100-SXM2-16GB под управлением автономного агента Herme…

tesla v100v100SXM2qwenqwen3.62017
Habr
RU

Миф о «равных весах»: что на самом деле скрывается внутри малых моделей

Последние годы развитие LLM шло по пути экстенсивного масштабирования: считалось, что чем больше весов и данных, тем умнее модель. В индустрии даже…

mlopsselectelllm-моделиqwenphi-4mistralgpt-ossdeepseekaiai-агенты
Habr
RU

MTP у Qwen3.6 в llama.cpp обещает ×2 по скорости. Я прогнал ту же модель через своего агента — и получил обратное

Привет, Хабр. Меня зовут Лазутин Алексей, я  не профессиональный разработчик . SEO, аудиты сайтов, куча рутины с CSV, curl, отчётами для програ…

локальные llmqwenmtplm studioбенчмаркагентыtool calling
Habr