RU

Семантического поиска оказалось мало. Как я научил Obsidian находить похожие заметки

В прошлой статье я рассказывал, как добавил в Obsidian локальный семантический индекс. Сам проект развивается открыто, код лежит здесь: GitHub: http…

Obsidiansemantic searchembeddingsvector searchSimilar NotesTypeScriptcosine similarityvector indexsemantic discovery
Habr
RU

Шесть лет разработки Telegram-бота: от токенайзера до LLM, RAG и векторных баз

Ио — это LLM-бот для Telegram-чатов. Он умеет отвечать на сообщения пользователей, распознавать изображения и голосовые сообщения, учитывать текущий…

telegram botllm-моделиragвекторные базы данныхvector searchpostgresqlembeddingsai
Habr
RU

Облачные ИИ не справляются, MiniLM-L6 ломается на философии: строим локальный RAG для сложных семантических текстов

Этот проект долго вынашивался и, в конце концов, начался как очередная попытка разобраться в философских текстах, написанных Джейн Робертс во второй…

raglocal llmnlppythonvector search
Habr
RU

Manticore Search 28.4.4: быстрый рескоринг KNN, более гибкий диалоговый поиск, упрощённая установка и улучшенные фасеты

Мы выпустили  Manticore Search 28.4.4  . В этом релизе ресоринг KNN стал быстрее, диалоговый поиск — гибче, установка и обновление — проще…

knnknn-searchvector searchfacetsвекторный поискфасетный поискsqlрелизполнотекстовый поиск
Habr
RU

Turbopuffer vs Manticore Search: бенчмарк на недорогих VPS

Векторные базы данных в serverless-модели обычно обещают простую вещь: не требуется развёртывание и настройка, а провайдер берёт на себя управление…

бенчмаркбенчмаркивекторный поисксравнение поисковых механизмовполнотекстовый поискlatencyvector searchзадержкагибридный поиск
Habr
RU

В 14 раз быстрее: как мы ускорили генерацию эмбеддингов в Manticore через ONNX

Когда мы выпустили  Auto Embeddings  — функцию автоматического преобразования текстов в векторные представления — без развёртывания отдель…

onnxonnx runtimeonnxruntimeembeddingsэмбеддингиинференсвекторный поискvector search
Habr
RU

Как мы ускорили KNN-поиск в Manticore: двухпроходный обход HNSW, пакетная обработка и AVX-512

Кратко:  Три изменения в HNSW-поиске ускоряют KNN-поиск до 29% при больших k и дают более 20% прироста при параллельной нагрузке. Без изменений…

knnknn-searchобработка больших данныхобработка больших массивов данныхhnswvector searchвекторный поискperformanceperformance optimizationпроизводительность
Habr
RU

Retrieval в 2026: как RAG переехал с энкодеров на LLM (и что с этим делать в своём проекте)

Если вы строили RAG в 2023, ваш стек выглядел плюс-минус одинаково. BERT-семейство (BGE, e5) для семантики, BM25 для буквальных совпадений, cross-en…

RAGэмбеддингиembeddingsretrievalLLMQwen3Qdrantvector searchhard negativesLLM2Vec
Habr
RU

Почему RAG — это не просто «добавить поиск»: latency, качество и выбор стратегии retrieval

Когда говорят про RAG, его часто описывают как простой способ улучшить LLM‑систему: добавить поиск по внешним данным, найти релевантн…

RAGLLMretrievallatencyChromaOllamavector searchembeddingstop-kchunk size
Habr
RU

10 актуальных RAG-подходов: какие реально полезны и когда их применять?

Всем привет, на фоне обновлений в LLM-стеке за последний год, решил собрать практический список RAG-подходов, которые реально используются в продакш…

ai-разработкаrag airag pipelineretrieval augmented generationllmllm-моделиvector searchhybrid searchgraphragmultimodal