Kazry — новая кусочно‑заданная активация
Привет, Хабр, в этой статье я хочу представить новую функцию активации для нейронных сетей под названием Kazry, которая по резул…
Testing & QA
⚑ Report a ProblemLatest Testing & QA news from Tech News
All topics
agents
ai
api
architecture
automation
backend
beginners
career
claude
cybersecurity
devchallenge
devops
discuss
javascript
llm
machinelearning
mcp
node
opensource
performance
productivity
programming
python
security
showdev
softwareengineering
testing
tutorial
typescript
webdev
GPU-Accelerating MSCRED with CUDA, im2col, GEMM, and a Custom PyTorch Extension
Introduction During my M.Tech in Data Science and Artificial Intelligence at IIT Bhilai (2021–2023), I conducted thesis research on multivariate tim…
Your quantized model got worse, and nothing told you
Getting a model onto a phone means exporting it, and almost always quantizing it. Both of those change the numbers. Everyone knows that part. What g…
От ANN к честному KNN на GPU: как мы пересобрали отбор кандидатов в рекомендациях Ozon
Привет! Мы команда рекомендательной системы Ozon, и сегодня мы хотим рассказать о нашем пути от приближённого поиска соседей (ANN) к точному KNN на…
Testing PyTorch 2.13 MPS FlexAttention on M1 Max: Up to 7.83x Faster for Sparse Attention
Hello, everyone. Attention becomes expensive very quickly as more text is given to an AI model. Can a Mac GPU make it faster when every token is res…
What Does `unsqueeze` Do in PyTorch? (And Why Your Model Keeps Asking For It)
You passed a single image to your model and got ValueError: expected 4D input (got 3D input) . Someone on Stack Overflow said "just add .unsqueeze(0…
Почему «чем проще, тем лучше» не работает на ИИ-классификаторе
Обучил multi-label классификатор на 15 классов для модерации Discord-сообщества, получил micro F1 = 0.9358 — цифра, с которой можно закрывать задачу…
Они умеют думать. Как я искал (и нашёл) язык, на котором «думает» LLM
Это история одного эксперимента. Без хайпа про « сознание ИИ », но с настоящим результатом: внутри большой языковой модели есть слой, где мысль ещё…
The SDXL VAE overflow that decoded black images in fp16
TL;DR: The SDXL VAE decoder pushes activations past 65504, the max value fp16 can hold, so the last decode step overflows to inf and you get a fully…
Speculative decoding shifted our output distribution and evals missed it
TL;DR: We turned on speculative decoding in vLLM to cut latency on a fine-tuned 8B. Got a 1.9x throughput win. Three weeks later a customer flagged…
Winograd convolutions cost us 2 mAP and we didn't notice for a month
TL;DR: We turned on Winograd convolution to shave latency off a pedestrian detector running on a Cortex-A53, got a clean 18% speedup, and silently l…
Why JAX Is a Much Better Backend for Quantum Circuit Simulation Than PyTorch
Modern quantum circuit simulation is not just “machine learning with complex tensors.” It involves irregular tensor contractions, sparse operators,…
Our event-camera detector lost 6 mAP to a badly chosen accumulation window
TL;DR: We spent three weeks chasing a 6 mAP regression in an event-camera object detector. The model was fine. The bug was the accumulation window w…
From Bayesian to deep knowledge tracing — upgrading NumPath's student model with a PyTorch LSTM
BKT told us how well a student knows subtraction-with-borrowing. It had no idea that a student who reverses digits on subtraction problems probably…
QAT vs PTQ on our edge vision model: 6 months of A/B data
TL;DR: We ran post-training quantisation (PTQ) and quantisation-aware training (QAT) side by side on the same defect-classification model deployed o…
Детекция чужого почерка в экзаменационных бланках без эталонного образца
Один ученик писал экзаменационную работу, а кто-то чужой дописал часть за него. Как мы научили нейросеть распознавать это. Дано: государственная атт…
Использование машинного обучения в работе с SolidWorks (2 часть): тестирование и практическое применение
В прошлой статье я поделился своими наработками в области работы ИИ с CAD-программами (в моём и нашем случае, SolidWorks). В этот раз поделюсь…