RU

120 выдуманных ссылок против 8: что агентный поиск делает с галлюцинациями LLM на строительных нормах

Один контрольный эксперимент — и один красивый ложный вывод, который мы чуть не опубликовали После прошлой статьи о том, почему нормативные документы …

ragllmнормативные документыгостстроительствонейросетисп снипверификация
Habr
RU

Контекстная инженерия: что это такое, как работать с контекстом и почему за это начали платить

Вы собрали диалоговую систему — агента с RAG, инструментами и памятью. На коротких диалогах всё работает: модель выбирает нужный инструмент и достаёт …

контекстная инженерияcontext engineeringllmии-агентыragmcpпромпт-инжинирингконтекстное окнобольшие языковые моделиtool calls
Habr
RU

Чек-лист тестирования поисковой системы: от engine sanity до RAG и графов знаний

Чек-лист для тестирования поисковых и RAG-систем — от базовой работоспособности поискового движка до качества генерации, агентных сценариев и поведени…

поисковые системытестирование поискаllmragвекторный поискqa
Habr
RU

Как я писал in-memory векторный движок на Go — и в каком месте он обогнал hnswilb

Полгода назад я начал писать in-memory базу с векторным поиском на Go: RESP-протокол, HNSW-индекс, WAL, многопоточность. Рассказываю, что из этого выш…

векторные базы данныхвекторный поискhnswgolanggoin-memorybenchmarkквантизацияrag
Habr
RU

DS MCP: как дать AI-агенту знание о вашей дизайн-системе

Статья про то, как AI-агенту дали знание о дизайн-системе, чтобы он перестал придумывать несуществующие компоненты и начал верстать из того, что реаль…

mcpai-агентыдизайн-системаfigma mcpds mcpragchromadbгенерация версткивекторный поискfrontend
Habr
RU

Мы меняли LLM и промпты, а ошибка оказалась совсем в другом месте

Это бонусный материл в серии о внедрении LLM в клиентские сервисы. Если в прошлых трех статьях я подробно разбирал удачные моменты, архитектуру и прав…

llmai architecturehandoffKnowledge BaseAI in Fintechragprompt engineeringroutingapienterprise ai
Хабр — Управление
RU

Как мы создавали «умный» поиск по регламенту вуза

Я преподаю на кафедре информационных технологий и больше двадцати лет пишу код. Однажды эти две роли сошлись в проекте, который я затеял для себя: над…

ragretrieval-augmented generationэмбеддингивекторный поисксемантический поискllmгибридный поискчат-ботmax мессенджерии-ассистент
Habr
RU

Как я обучил русский RAG‑сплиттер, который режет документы по индексам, а не по тексту

TL;DR.  Из интереса обучил собственный русский RAG‑сплиттер — захотелось проверить, можно ли сделать context‑aware‑нарезку русских…

ragчанкингдистилляцияloraunslothтокенизацияllama.cppggufvulkanamd
Habr
RU

65 бесплатных уроков июля: от LLM и RAG до Kubernetes, Go и QA

Профессиональный рост часто упирается в конкретные слепые зоны: где демо AI-агента расходится с продакшеном, как выбирать платформу для AI-ворклоадов,…

LLMragkubernetesGoтестированиеархитектураинфраструктураподорка вебинаровбесплатные урокипрофессиональное развитие
Habr
RU

Жизнь после RAG: как мы построили ИИ-агента для анализа тикетов технической поддержки

Привет! Меня зовут Владимир Дробот, я SRE-лид и руководитель центра техподдержки кластера рекламных технологий компании МТС Web Services. Наша команда…

ииии-агентыии помощникragтехническая поддержкаавтоматизация
Habr
RU

Как мы создали внутреннего ИИ-помощника на базе RAG и перестали искать ответы по корпоративной Wiki

Компании со временем накапливают тысячи страниц документации, и найти нужную информацию становится всё сложнее. Обычный поиск перестаёт справляться, с…

ragllmкорпоративный поискai-ассистентвекторный поискopensearchfridamilvusискусственный интеллектсемантический поиск
Habr
RU

GPU vs vGPU: что выбирать для быстрого запуска AI-сценариев и контроля над данными

Привет, Хабр. Меня зовут Дмитрий Сергеев. Я менеджер продукта «виртуальные серверы» (GPU) в компании VK Tech. Одна из ключевых проблем внедрения нейро…

vk cloudgpuvgpucloud gpuмашинное обучениеllmragвидеоаналитика3d-графикаvdi
Habr
RU

GPU vs vGPU: что выбирать для быстрого запуска AI-сценариев и контроля над данными

Привет, Хабр. Меня зовут Дмитрий Сергеев. Я менеджер продукта «виртуальные серверы» (GPU) в компании VK Tech. Одна из ключевых проблем внедрения нейро…

vk cloudgpuvgpucloud gpuмашинное обучениеllmragвидеоаналитика3d-графикаvdi
Habr
RU

Локальные LLM в агентской разработке внутри компании: пользовательский опыт

Всем привет! Меня зовут Дмитрий Бутенко, я эксперт-разработчик банка Уралсиб. Всё началось с рабочего созвона в первой половине февраля, на котором уп…

opencodellmaiai-агентыragагентный иитестирование веб-приложенийai agentllm-моделиllm-приложения
Habr
RU

Как создать ИИ‑ассистента на кодовой базе компании: опыт команды музыкального сервиса Звук

Если в компании уже используются AI‑инструменты, она может быстрее и дешевле производить свой продукт и, следовательно, давать более конкуре…

ragрепозиторийai-ассистентllmqdrantинжестсберзвукии-ассистент
Habr
RU

Где заканчивается вызов LLM и начинается backend система: локальный RAG на FastAPI и Ollama

Хотел разобраться где заканчивается простой вызов локальной LLM и начинается backend система. Сначала всё выглядело просто: frontend отправляет вопрос…

ragllmfastapiollamapythonbackendembeddingsvector storerequest_idлокальная llm
Habr
RU

Деперсонализация через QWENы или как завести маленького домашнего ИБшника

Приветики-пистолетики! Это Кирилл из Neuromed и сегодня я хотел бы затронуть вопрос деперсонализации. Да, этот тренд возможно уже уходящий, т к все кт…

информационная безопасностьискусственный интеллектдеперсонализацияdevopsragllm-моделиqwenлокальные моделинастройкаархитектура приложений
Habr
RU

ИИ-ассистент с долговременной памятью, агентами и vision. Проблемы с Персональными Данными

ИИ-ассистент с долговременной памятью, агентами и vision - делал для себя. Память с весами и забыванием, разные модели под задачу, поиск по маркетплей…

ииии-ассистентии чат-ботии помощникllmllm-моделиraggigachatgo152-фз
Habr
RU

No-code автоматизация бизнес-процессов Битрикс24 с AI-агентами

На нашей платформе часть работы строится вокруг бизнес-процессов. Это сценарии, которые система выполняет автоматически по заданным правилам: согласов…

ragискусственный интеллектбизнес-процессыавтоматизация
Habr
RU

RAG не только для вопросов и ответов: почему он естественно подходит для рекомендаций

Retrieval-Augmented Generation (RAG) чаще всего рассматривается в контексте вопросно-ответных систем и чат-ботов поверх базы знаний. Большинство публи…

ragnlpрекомендательные системыmachine learningllmинформационный поискfaissэмбеддинги
Habr
RU

Как научить языковую модель читать транзакции: превращаем историю платежей в базу знаний

Меня зовут Дмитрий Валов, я тимлид команды «Инструменты для банка (агенты)» в Sber AI Lab — Центре практического искусственного интеллекта Сбера. Боль…

машинное обучение и нейросетиllmragretrieval-augmented generationтранзакцииknowledge baseантифродsber ai labэмбеддингиfinance
Habr
RU

Внешняя память для LLM: как RAG дает моделям доступ к новым знаниям

Интеграция языковых моделей в реальные бизнес-процессы редко проходит без сюрпризов. В тепличных условиях тестов языковая модель кажется надежным эксп…

ragrag airag системаискусственный интеллектмашинное+обучениеllmllm-моделиобучение llmии-модельии и машинное обучение
Habr
RU

Искусственный интеллект с LangChain. Разработка ИИ-агентов на Python

Представляем новый практический курс по ИИ-агентам на Python от мастера обучающей литературы Владимира Дронова . Книга наверняка вызовет интерес у все…

langchainииllmpythonнейросетипрограммированиеraggigachatyandexgptollama
Habr
RU

Как мы строили eval и автоматизировали оптимизацию AI-агента для умного помощника

Привет! Меня зовут Алексей, я разработчик в Битрикс24.  В первой части рассказывал про retrieval-часть нашего RAG для AI-помощника Марты: как мы …

ragevalоптимизациядатасетбитрикс24база знаний
Habr