jina-embeddings-v4 as an OpenAI-Compatible Embeddings Server
jina-embeddings-v4 is a self-hosted server for the jina-embeddings-v4 embedding model with an OpenAI-compatible /v1/embeddings endpoint. It runs on…
Latest News
⚑ Report a ProblemTech news from the best sources
All topics
- игры
AI
Gear
News
Tech
agents
ai
api
architecture
automation
beginners
career
database
devops
javascript
llm
machinelearning
mcp
opensource
performance
productivity
programming
python
react
security
showdev
testing
tutorial
typescript
webdev
Embeddings: Meaning as Numbers
When you ask a chatbot for a pasta recipe, it doesn’t understand “pasta” the way you do. It sees a list of numbers. Those numbers are not random. Th…
Семантического поиска оказалось мало. Как я научил Obsidian находить похожие заметки
В прошлой статье я рассказывал, как добавил в Obsidian локальный семантический индекс. Сам проект развивается открыто, код лежит здесь: GitHub: http…
Implementing Node.js Support Triage — Summarize PDF Pages with Embeddings
Short answer: for B2B support triage, split PDF retrieval from answer generation, rerank a small evidence set, and let the final summary assign a qu…
Как искать живой спрос в шумных городских Telegram-чатах
Городские Telegram-чаты похожи на непрерывный поток логов без схемы. В одном сообщении человек ищет квартиру, в следующем агент публикует двадцатую…
Why I Chose PDF RAG Chunking and Metadata for Catalog Semantic Search
Short answer: for semantic search over messy B2B catalog PDFs, I would spend the latency budget during ingestion, preserve page-level evidence, and…
Gaming Knowledge-Base PDF RAG: Node.js Embeddings, Rerank, and Focused Summaries
A gaming knowledge base can contain hundreds of PDF pages of rules, patch notes, quest logic, and support policy. To summarize those pages without b…
Ask-Docs Architecture: Semantic Embeddings or Keyword Search for a SaaS Help Center?
Short answer: for an ask-your-docs feature in a multi-tenant SaaS help center, start with embeddings over document chunks, retain keyword search for…
Я научил Obsidian искать по смыслу. Как устроен локальный семантический индекс без отдельной векторной БД
В комментариях к прошлой статье мне написали примерно следующее: граф связей выглядит красиво, но хороший поиск по заметкам полезнее. Спорить было т…
Шесть лет разработки Telegram-бота: от токенайзера до LLM, RAG и векторных баз
Ио — это LLM-бот для Telegram-чатов. Он умеет отвечать на сообщения пользователей, распознавать изображения и голосовые сообщения, учитывать текущий…
Silent Drift: Why Re-Embedding Only on Count Changes Rots Your Semantic Index
My index reported 354 points. The collection had 451. Both numbers were "correct," and that gap is the whole problem. Here's the setup. I have a wik…
Vector Split by Chunk: Why My Retrieval Stops at the Boundary I Drew
I watched a draft miss the exact file span I needed, and the failure was embarrassingly clean: the vector was "close," but the chunk I wanted was bu…
Four Vectors, One Record: How I Split Embeddings Before They Hit Search
The failure that pushed me into this design was not subtle. I had a blended embedding that kept returning candidate matches that looked reasonable a…
Карточки из музыкальной студии 1975 года против продуктовых тупиков
Есть задачи, которые вроде бы не выглядят тупиком. Всё уже обсудили, аргументы есть — а решение почему-то снова переезжает на следующую неделю. Я ре…
The Silent Vector Contamination Bug: Why Your Concurrent Embeddings Might Be Lying to You
TL;DR: If you run concurrent inference (e.g., via OpenVINO AsyncInferQueue or custom threading) for text/code embeddings, your tests might show 0 ex…
Персонализация без Big Data: как мы ранжируем новости в Telegram с помощью pgvector и пяти сигналов
У меня накопилось 23 Telegram-канала. Не потому что я специально их коллекционировал. Просто со временем подписывался на новые. В какой-то момент по…
How Vector Search Actually Works: IVF and HNSW
Every system that does "semantic" anything — RAG pipelines, recommendation engines, image search, dedup — boils down to one operation: given this ve…
Vector databases explained
Behind almost every "AI-powered search" and RAG feature sits the same quiet workhorse: similarity search over vectors. If you're building anything t…
Contextual Retrieval: техника, которая чинит главную проблему RAG за 50 центов на тысячу чанков
Классический RAG часто ошибается не из‑за слабой embedding‑модели, а потому что чанки теряют связь с исходным документом. Разбир…
Сжатие декодерных эмбеддеров: как ужать 8B до продакшена без потери recall
Декодерный эмбеддер 7–8B дает качество, но платит за него памятью, latency и деньгами. Разбираем все оси сжатия - int8, int4, binary + rescoring, PQ…
Embeddings Magic
Transforming language into geometry. Introduction Embeddings are one of the most important building blocks of modern AI applications, yet they're of…
В 14 раз быстрее: как мы ускорили генерацию эмбеддингов в Manticore через ONNX
Когда мы выпустили Auto Embeddings — функцию автоматического преобразования текстов в векторные представления — без развёртывания отдель…
Как выбрать эмбеддинг для проекта
Эмбеддинги (иначе говоря, векторные представления) — это способ представления абстрактных данных в виде набора чисел (в виде векторов, как вы могли…
Где заканчивается вызов LLM и начинается backend система: локальный RAG на FastAPI и Ollama
Хотел разобраться где заканчивается простой вызов локальной LLM и начинается backend система. Сначала всё выглядело просто: frontend отправляет вопр…
Retrieval в 2026: как RAG переехал с энкодеров на LLM (и что с этим делать в своём проекте)
Если вы строили RAG в 2023, ваш стек выглядел плюс-минус одинаково. BERT-семейство (BGE, e5) для семантики, BM25 для буквальных совпадений, cross-en…
Build a RAG Pipeline From Scratch (Production Patterns That Actually Matter)
Most RAG tutorials stop at "embed your docs, do a similarity search, stuff the results in a prompt." That gets you a demo. It does not get you somet…
Зачем backend разработчику Python, если он не собирается становиться data scientist
Долго воспринимал Python как язык из соседнего мира. Где то там data science, pandas, ноутбуки, модели, эксперименты. А у меня обычный backend: API,…
RAG with OpenAI Embeddings, pgvector and LangChain
Retrieval-Augmented Generation (RAG) is a practical pattern: store knowledge as embeddings, retrieve the most relevant chunks with semantic search,…
Как мы боремся с галлюцинации AI Master: гибридный Guard на Embedding + LLM Extractor на примере AI-RPG «Стирая Грань»
Каждый, кто пробовал создавать текстовые RPG или симуляторы на базе LLM (будь то GPT-4, DeepSeek или локальная 70B), сталкивался с проблемой «Yes-An…
Раннее завершение KNN-поиска в Manticore Search
Современные поисковые системы уже не просто сопоставляют ключевые слова. Когда вы ищете «уютный детектив, действие которого происходит в Париже», а…