RU

Теги реакций и собираемый промпт: как удержать характер ИИ-персонажа по ходу диалога

Вектор диалога с LLM плывёт каждый ход, и к концу разговора персонаж уже не тот. Рассказываю, как я это чиню в своём движке: классификатор выбирает…

LLMпромпт-инжинирингprompt engineeringconstrained decodingstructured outputИИ-персонажичат-ботыконсистентность диалогаOllamagemma
Habr
RU

Дешевая LLM в проде: как мы ушли с прогнозных $2000 в месяц на $30 и какие минусы

Каждую ночь у нас в JobPath запускается Celery-задача, которая берёт свежие вакансии из каталога (мы собираем их из открытых источников и Telegram-к…

LLMqwenClaudeOpenRoutertool callingstructured outputоптимизация расходовэвал моделейfail-closed