Presentation: Exploding GPUs
Andrew Martin discusses why AI security is fundamentally tied to Kubernetes security. He shares insights into the evolving AI threat landscape, cove…
Latest News
⚑ Report a ProblemTech news from the best sources
All topics
- игры
AI
News
Tech
agents
ai
api
architecture
automation
backend
beginners
career
devchallenge
devops
javascript
llm
machinelearning
mcp
opensource
performance
productivity
programming
python
react
security
showdev
testing
tutorial
typescript
webdev
Двенадцать RTX 3070 из подвала: стоит ли покупать видеокарты после майнинга
Видеокарты после майнинга продаются обычно чуток дешевле, чем просто б/у (конечно, далеко не всегда эта особенность указывается). Есть мнение, что п…
RPS одинаковый, но p95 по TTFT хуже в 2,7 раза: что round-robin делает с KV-cache
В замере Red Hat два балансировщика распределяли один и тот же чат-трафик между четырьмя GPU NVIDIA L4. По числу обработанных запросов в секунду рез…
RPS одинаковый, но p95 по TTFT хуже в 2,7 раза: что round-robin делает с KV-cache
В замере Red Hat два балансировщика распределяли один и тот же чат-трафик между четырьмя GPU NVIDIA L4. По числу обработанных запросов в секунду рез…
LLM работает не на одной видеокарте: анатомия AI-инфраструктуры 2026
Почему 70B-модель может поместиться в память и всё равно тормозить под нагрузкой? Разбираем AI-инфраструктуру 2026 года по слоям: HBM и KV-кеш, pref…
[Перевод] Чьи это GPU: безопасные метрики с самообслуживанием для мультитенантного Kubernetes
«Мы вообще пользуемся этими штуками?» Этот вопрос прозвучал на разборе расходов на GPU — самой крупной статьи инфраструктурного счёта, и никто не см…
ROUGE‑V: как я транслировал CUDA/PTX в LLVM IR и запускал его без CUDA runtime
Я написал транслятор CUDA/PTX в LLVM IR: он берёт PTX от настоящего nvcc и собирает его обычным clang . Восемь ядер уже исполнены на …
5 российских облаков для запуска своих ИИ-моделей в 2026 году
Сравниваем immers.cloud, Selectel, Cloud.ru, VK Cloud и Timeweb Cloud: GPU, обучение и инференс моделей, инструменты ML, условия оплаты и ограничени…
Kubernetes Teams Get a Safer Way to See Their Own GPU Metrics
Adobe engineers have described an open-source approach for giving teams self-service access to their own Prometheus metrics in multi-tenant Kubernet…
CMF: решения за миллисекунды без генерации токенов (аналог Jev) с открытыми весами
CMF модель для быстрого принятия решений (аналог Jev) — локальная модель для выбора решений без генерации токенов. Она определяет класс, умеет отказ…
Почему инференс LLM становится дорогим и как снизить расходы на GPU без покупки новых карт
Высокая загрузка GPU ещё не означает, что инфраструктуре не хватает ресурсов. В продакшене значительная часть времени может уход…
Google Adds Cycle-Level Kernel Profiling to XProf
Google has added a Kernel Profiling suite to XProf. This is its open-source profiler for TPU workloads. Now, developers can see cycle-level details…
Может ли дата-центр вообще отказаться от воды?
Немного экспериментальный формат, который надеюсь, вам зайдет. Мне лично очень нравится изучать разные темы вне статистики, аналитики и прикладных к…
Запустить LLM локально: что считать до покупки видеокарты?
Мощная видеокарта не всегда означает быстрый локальный запуск LLM. Разбираемся, почему GPU может простаивать, как на производите…
[Перевод] Ваша платформа Kubernetes готова к контейнерам. Готова ли она к ИИ?
Kubernetes дал платформенным командам единообразный способ развёртывать, масштабировать и эксплуатировать контейнеризированные приложения. Теперь мн…
NVIDIA Personal AI Router Distributes AI Tasks Across Local Compute
NVIDIA Personal AI Router (PAIR), now available in beta, lets you combine the inference capacity of multiple computers on your local network and aut…
Инференс под нагрузкой: как обслуживать модель и честно считать её стоимость
Куда уходит память видеокарты при инференсе, что дают PagedAttention и непрерывное пакетирование и как посчитать стоимость задачи до запуска. Разбир…
Presentation: From S3 to GPU in One Copy: Rethinking Data Loading for ML Training
Onur Satici explains how Vortex, an open-source columnar file format under the Linux Foundation, revolutionizes high-throughput data loading. He det…
Presentation: Running AI at the Edge: Running Real Workloads Directly in the Browser
James Hall discusses the strategic and technical imperative of moving AI workloads from cloud providers to local edge devices. He shares practical a…
Миллион частиц на iPhone: строим аттрактор Лоренца на GPU с Metal
Привет! Я Максим Савченко, iOS-разработчик. Эта история началась с вопроса, как сделать живую форму в духе иконки Siri — и довольно быстро уехала в…
Nvidia’s AI advantage is moving beyond the GPU
The new generation of data center systems is increasing efficiency with smarter traffic control instead of just more processor cycles.
GPU-серверы для LLM-инференса: 5 решений, на чём запустить локально в 2026 году
Сравнили 5 GPU-платформ для запуска открытых LLM в России: immers.cloud, Cloud4Y, VK Cloud, HOSTKEY и AdminVPS. Разбираем конфигурации, цены и удобс…
Веб‑камера «увидела» глубину: как DepthART и WebGPU делают виртуальный свет в реальном времени
В сети разошлось короткое демо разработчика Конрада Речко. На первый взгляд ничего сверхъестественного: кадр с обычной веб‑камеры, по…
[Перевод] Как найти остров по одной фотографии: геолокация через геометрию и CUDA
Фото островного курорта. Ни EXIF, ни GPS, ни модели камеры – ничего. Нужно назвать курорт, координаты и сторону света, куда смотрела камера. Пытатьс…
Корпоративный мозг на одной видеокарте: что на самом деле умеет локальная модель
Есть компании, где вопрос «какую модель выбрать» отходит на второй план, а первым встаёт другой: выйдут ли данные за периметр . Банк, госкорпорация,…
Meet the startup helping Wall Street put a price on AI compute
The AI buildout shows no signs of slowing. And with hundreds of billions of dollars a year going into data centers and GPUs, com…
Presentation: From Fab To Token - The State Of The Market
Jordan Nanos discusses how semiconductor constraints, data center expansion, and networking bottlenecks impact AI software architecture. Drawing fro…
ИИ‑прогноз погоды на своём железе: запускаем AIFS 2.0 от ECMWF
Открытые веса модели мало помогают, если для её запуска нужен конкретный GPU и непростое окружение. Разберём, как запустить AIFS Single 2.0 от ECMWF…
NVIDIA RTX PRO 5000 Blackwell с 72 Гб видеопамяти. Есть ли смысл переплачивать за «половинку» флагмана?
RTX PRO 5000 Blackwell на 72 Гб: золотая середина для локальных ИИ-моделей или переоцененный апгрейд? Разбираемся в нашем обзоре. Читать далее
Т9 за сотню долларов, ассистент за миллиард: сколько на самом деле стоит обучить LLM с нуля
«Лучший ChatGPT за $100», «китайцы обучили GPT-4 за шесть миллионов», «модель с нуля на одной игровой карте за вечер» — за последний год такие загол…