I converted 126 tree models to ONNX by following the docs. Here is what changed.
I wanted to know how often the documented way of converting a tree model to ONNX produces a file that is not the same model. So I built the pairs th…
Tech news from the best sources
I wanted to know how often the documented way of converting a tree model to ONNX produces a file that is not the same model. So I built the pairs th…
Если ваш сервис отправляет текст пользователя в языковую модель, между ними почти наверняка нужен фильтр. На входе он ловит prompt injection («забуд…
What I Learned Quantizing DistilBERT to ONNX for Browser Inference I built a support-ticket classifier — 77 banking intents, fine-tuned DistilBERT,…
С лета у меня в браузере рядом с доской работает локальный Stockfish и подсказывает стрелкой на лучшем ходу. Люди, которые начали пользоваться, выра…
Обещал в прошлой части честный замер локальных моделей распознавания — выполнял целый день, и результат вышел самым обидным: менять нечего. А три де…
FaceVision does face detection, recognition and liveness checks without sending a single frame to a server, because every model runs in the browser…
I run Knipsmig , a QR-code photo sharing service for weddings and parties. Guests scan a code and upload straight from the phone, no app. Most of th…
У меня есть RAG‑сервис: проверяет фактологические утверждения в бизнес‑отчётах против реальных источников — SEC EDGAR, World Bank, FR…
EndoSeg was built for the Nebius Serverless AI Builders Challenge Nebius Serverless AI Builders Challenge nebius.com we had fine-tune an ovarian-les…
Hello, everyone. When people hear an animal call or keyboard typing, they can infer something about the source and setting. If we turn those sounds…
Hello, everyone. When listening to a conversation, we naturally keep track of who is speaking. A program has a harder job: beyond finding speech, it…
Hello, everyone. Have you ever wanted to keep only the parts of a recording where someone is speaking? Finding silence before transcription can redu…
I recently went down a rabbit hole after hearing how a major bank’s ATM face scanners were defeated by a literal piece of printer paper. It’s a clas…
Сравним скорость ResNet-50 на PyTorch, ONNX Runtime, OpenVINO, TensorRT и TVM в 46 конфигурациях. ONNX Runtime + INT8 даёт ×4 на CPU, TensorRT + INT…
Когда мы выпустили Auto Embeddings — функцию автоматического преобразования текстов в векторные представления — без развёртывания отдель…
Подготовка модели Yolo для запуска на базе Hailo чипа для Raspberry Pi 5 AI HAT+. Если есть интерес к легким аппаратным решениям в области ИИ, то до…
Рассказываем, как мы интегрировали CodeBERT-based модель классификации секретов в production-продукт с жёсткими ограничениями по железу, сократив вр…
На Android у меня живёт Govorun Lite — офлайн-диктовка на русском. Нажал кнопку, сказал, текст вставился. Никаких облаков, никакой отпра…