RU

Наш бенчмарк ИИ-агентов: собачьи бега моделей LLM, в которых Алиса выигрывает

Всем привет. На связи Сергей Игнатенко, основатель ИИ-платформы VibePilot. Мы сделали свой бенчмарк моделей ИИ на реальных задачах: сметы, договоры,…

бенчмарк LLMИИ-агентыYandexGPTGigaChatAlice AI LLMDeepSeekQwenсуверенные моделигенерация документовYandex Cloud
Habr
RU

Свой инференс для 25 разработчиков: 452:1, KV‑пул и почему это не экономит денег

Для тех, кто держит или собирается держать LLM внутри контура: тимлидов, DevOps, архитекторов. Здесь конфиги, цифры и грабли, а не&nb…

vLLMLiteLLMprefix cachingKV-cacheлокальные LLMинференс LLMQwenагентская разработкаRTX PRO 6000claude
Habr
RU

502 на ingress, 302 в приложении: как я учил инфраструктурного LLM-агента не врать

Я делаю внутреннего read-only LLM-агента для инфраструктурных расследований. Инженер задаёт вопрос обычным языком, а агент собирает доказательства и…

LLM-агентыSREDevOpsMCPGoQwenDeepSeekKubernetesevaluationobservability