RU

Hermes c локальными LLM vs GigaCode: сравниваем агентов на реальных PHP/Symfony-задачах

На YouTube очень часто мне попадаются видео, где сравнивают разные LLM для вайбкодеров: сделай 3D-аквариум с рыбками, напиши игру, слепи лендинг. Но…

PHPSymfonyGigaCodeHermesvllmагентное программированиелокальные llm
Habr
RU

Как я искал идеальный промпт для сопроводительных писем (и что оказалось важнее модели)

Хотел понять, потянет ли маленькая локальная модель сопроводительные письма или без облака никак. Оказалось, главный рычаг не модель, а промпт: пере…

поиск работыhh.ruсопроводительное письмопромпт-инжинирингOtklikнейросетиollamaлокальные llmgigachatopen source
Habr
RU

Сколько на самом деле стоит решённая задача: считаем экономику self-hosted моделей vs API токены

Каждый раз, когда заходит разговор "что дешевле — поднять у себя открытую модель или платить за API", его почему-то ведут в ценах за токен. И почти…

цена токенамашинное+обучениеконтурлокальные моделилокальныелокальные нейросетилокальные llmkimi-k3deepseekopus 4.7
Habr
RU

Написал локального ИИ-ассистента для зумов: диаризация, граф знаний и ноль облаков

Собрал ассистента встреч, который работает целиком на моём маке: локальный STT, живая диаризация голосов, мгновенные ответы на вопросы собеседника и…

локальные llmollamaдиаризацияspeech-to-textграф знанийассистент встречzoom
Habr
RU

Как я заставил 9B обгонять 30B: три месяца с local LLM агентом

Я дал 9B и 30B одну задачу. 30B сделал 24 шага и вернул неправильный ответ. 9B справился за 3. Разбираю почему размер модели — не главное, и что на…

локальные llmлокальный агентуправление контекстомагентный CLIlm studioslmnode.jsэмбеддинги
Habr
RU

MTP у Qwen3.6 в llama.cpp обещает ×2 по скорости. Я прогнал ту же модель через своего агента — и получил обратное

Привет, Хабр. Меня зовут Лазутин Алексей, я  не профессиональный разработчик . SEO, аудиты сайтов, куча рутины с CSV, curl, отчётами для програ…

локальные llmqwenmtplm studioбенчмаркагентыtool calling