Анатомия HurriCache
HurriCache это распределенная key-value база данных с поддерожкой как простых типов ключ значение так и конейнеров, блокировок, работы с atomics и м…
Latest News
⚑ Report a ProblemTech news from the best sources
All topics
- игры
AI
Gear
News
Tech
agents
ai
api
architecture
automation
beginners
career
database
devops
javascript
llm
machinelearning
mcp
opensource
performance
productivity
programming
python
react
security
showdev
testing
tutorial
typescript
webdev
The Slow Lane: Latency Engineering When Your AI Endpoint Is Free
Free model access solves the cost problem and creates a latency problem, and most teams measure the wrong number. My position is direct: the p95 of…
Your agent's p99 is a different animal
Originally published on Loop & Retry — field notes on building LLM agents that survive production. The demo felt instant. The agent answered in…
Best-of-N is prepaid retries: the cost math of racing parallel attempts
Originally published on Loop & Retry — field notes on building LLM agents that survive production. Here's the pitch for best-of-N: instead of tr…
Your token bill is the cheap part: dimensioning the real cost of an agent
Originally published on Loop & Retry — field notes on building LLM agents that survive production. The token bill is the cost you can see, becau…
How I tried to write an article about slow Chinese LLMs
Recently, I've added a bunch of hype-monsters to my AI Werewolf : Kimi K3 Qwen 3.8 Max, Qwen 3.7 Plus, Qwen 3.7 Flash MiniMax M3 Plus the ones I've…
Как я придумывал замену Redis и что из этого получилось
Некоторое время назад мне пришла задача спроектировать высокопроизводительный балансировщик нагрузки для протокола Diameter. Через 3 месяца задача и…
Turbopuffer vs Manticore Search: бенчмарк на недорогих VPS
Векторные базы данных в serverless-модели обычно обещают простую вещь: не требуется развёртывание и настройка, а провайдер берёт на себя управление…
async‑profiler в production: CPU, аллокации, lock contention и чтение flame graph
Профилирование Java‑приложений в production часто упирается не в отсутствие инструментов, а в их ограничения: CPU горит в&n…
Почему RAG — это не просто «добавить поиск»: latency, качество и выбор стратегии retrieval
Когда говорят про RAG, его часто описывают как простой способ улучшить LLM‑систему: добавить поиск по внешним данным, найти релевантн…
Архитектура AI-сервисов: почему монолит убивает latency и GPU
Ваш AI‑чат или автокомплит тормозит при 50 запросах в секунду? Монолит убивает GPU и латенси? В этом туториале — реальная а…
Probe-сеть из 10 регионов: что я не учёл про AS-разнесённость
Я делаю Valpero — uptime-мониторинг с проверками из 10 регионов мира. Когда я только собирал probe-сеть, я был уверен, что 10 географических точек э…
Девять испытаний роста нагрузки: от стартапа к приложению для 25 миллионов пользователей
Эта статья совсем не технический анализ, а увлекательный рассказ о том, как маленький, но очень перспективный стартап стал топовым приложением, а та…
Иллюзия памяти: как индустрия десятилетиями маскировала ограничения железа
Сейчас память можно увеличить ползунком, Redis поднять одной командой, а состояние сервера оценить по строке в панели управления. Но за этим удобств…
Почему ваш Go‑сервис ломается под 1000 RPS и как найти узкое место за полчаса
Go-сервис может идеально проходить функциональные тесты и уверенно отвечать на локальных прогонах, а потом внезапно развалиться под 1000 RPS: p99 ул…
Почему NVMe не всегда ускоряет сайт: смотрим на latency, p95/p99 и профиль нагрузки
У дисковой подсистемы слишком хорошая репутация в тарифных таблицах и не самая однозначная в инженерных обсуждениях. В первом случае нам продают гиг…
Голосовой агент — это не чатбот с телефоном: 40 часов экономии и $100, сожженные на ботах
Я однажды примерно за сутки сжег около $100 на голосовом агенте. Не на большом запуске. Не на огромной базе. Не на хитрой рекламной кампании. Просто…