RU

Подарок брату до $70 к пятнице — как я собрал помощника магазина на локальной 9B-модели

Покупатель пишет в чат магазина «подарок брату, ему 30, любит настолки, до $70». Помощник спрашивает, когда у брата день рождения. Покупатель отвеча…

LLM-агентИИ-ассистентинтернет-магазинподбор подарковкорзиналокальная LLMQwenLM Studiostructured outputхарнес
Habr
RU

Агент поддержки первой линии: прототип за вечер, харнес для прода, цена диалога

Бизнес хочет автоматизировать первую линию поддержки. Оператора надо нанять, обучить, поставить в график, проверять и каждый месяц платить зарплату.…

LLM-агентагент поддержкихарнесагентский циклtool callingstructured outputэскалацияцена диалогаQwenNestJS
Habr
RU

Теги реакций и собираемый промпт: как удержать характер ИИ-персонажа по ходу диалога

Вектор диалога с LLM плывёт каждый ход, и к концу разговора персонаж уже не тот. Рассказываю, как я это чиню в своём движке: классификатор выбирает…

LLMпромпт-инжинирингprompt engineeringconstrained decodingstructured outputИИ-персонажичат-ботыконсистентность диалогаOllamagemma
Habr
RU

Дешевая LLM в проде: как мы ушли с прогнозных $2000 в месяц на $30 и какие минусы

Каждую ночь у нас в JobPath запускается Celery-задача, которая берёт свежие вакансии из каталога (мы собираем их из открытых источников и Telegram-к…

LLMqwenClaudeOpenRoutertool callingstructured outputоптимизация расходовэвал моделейfail-closed