Testing & QA — Tech News

All EN RU

The Silent Vector Contamination Bug: Why Your Concurrent Embeddings Might Be Lying to You

TL;DR: If you run concurrent inference (e.g., via OpenVINO AsyncInferQueue or custom threading) for text/code embeddings, your tests might show 0 exce…

machinelearning rag openvino embeddings

Сжатие декодерных эмбеддеров: как ужать 8B до продакшена без потери recall

Декодерный эмбеддер 7–8B дает качество, но платит за него памятью, latency и деньгами. Разбираем все оси сжатия - int8, int4, binary + rescoring, PQ, …

сжатие эмбеддингов квантизация эмбеддинги embeddings RAG Qdrant Qwen3 binary quantization Matryoshka retrieval

Зачем backend разработчику Python, если он не собирается становиться data scientist

Долго воспринимал Python как язык из соседнего мира. Где то там data science, pandas, ноутбуки, модели, эксперименты. А у меня обычный backend: API, м…

python backend llm rag ai fastapi embeddings api production enterprise

Почему RAG — это не просто «добавить поиск»: latency, качество и выбор стратегии retrieval

Когда говорят про RAG, его часто описывают как простой способ улучшить LLM‑систему: добавить поиск по внешним данным, найти релевантный…

RAG LLM retrieval latency Chroma Ollama vector search embeddings top-k chunk size