RU

LLM работает не на одной видеокарте: анатомия AI-инфраструктуры 2026

Почему 70B-модель может поместиться в память и всё равно тормозить под нагрузкой? Разбираем AI-инфраструктуру 2026 года по слоям: HBM и KV-кеш, pref…

LLMGPUAI-инфраструктураNVIDIANVLinkKV-кешинференсMixture of ExpertsDeepSeek-V3HB
Habr
RU

Вдвое меньше токенов без смены модели: что NVIDIA сделала с harness кодинг-агента

Исследователи из NVIDIA, MIT и NTU поручили одному ИИ-агенту улучшать harness другого, кодинг-ассистента на базе открытого Pi. Агент перебрал 152 ид…

SoL-Piharnessкодинг-агентыAI-агентыLLMтокеныprompt cacheNVIDIAEdgeBenchClaude Code
Habr
RU

Как Vision-Language Models учатся работать с 3D-миром

Привет, Хабр! Сегодня поговорим о том, как роботы работают с предметами в реальной жизни. Современные роботы умеют выполнять множество простых опера…

VLMVision-Language Modelsробототехникакомпьютерное зрение3D-моделированиеspatial reasoningretrieval-augmented generationNVIDIAманипуляторыискусственный интеллект
Habr