RU

LLM работает не на одной видеокарте: анатомия AI-инфраструктуры 2026

Почему 70B-модель может поместиться в память и всё равно тормозить под нагрузкой? Разбираем AI-инфраструктуру 2026 года по слоям: HBM и KV-кеш, pref…

LLMGPUAI-инфраструктураNVIDIANVLinkKV-кешинференсMixture of ExpertsDeepSeek-V3HB
Habr
RU

Вдвое меньше токенов без смены модели: что NVIDIA сделала с harness кодинг-агента

Исследователи из NVIDIA, MIT и NTU поручили одному ИИ-агенту улучшать harness другого, кодинг-ассистента на базе открытого Pi. Агент перебрал 152 ид…

SoL-Piharnessкодинг-агентыAI-агентыLLMтокеныprompt cacheNVIDIAEdgeBenchClaude Code
Habr
RU

NVIDIA RTX PRO 5000 Blackwell с 72 Гб видеопамяти. Есть ли смысл переплачивать за «половинку» флагмана?

RTX PRO 5000 Blackwell на 72 Гб: золотая середина для локальных ИИ-моделей или переоцененный апгрейд? Разбираемся в нашем обзоре. Читать далее

NVIDIABlackwellRTX PRO 5000GPUVRAMLLMинференсDeepSeekCUDAhostkey
Habr
RU

Минфин США пригрозил санкциями за китайский ИИ. Через несколько часов глава Nvidia встал на защиту моделей

Во вторник министр финансов США Скотт Бессент  заявил  в эфире Fox Business, что администрация изучает китайские ИИ-модели на предмет укра…

NVIDIAKimi K3Claude Mythos
Habr
RU

Nvidia и SK Hynix заключили многолетнее соглашение о разработке памяти для ИИ

Nvidia и SK Hynix заключили многолетнее соглашение о разработке памяти для AI-фабрик и Vera Rubin. Разбираем детали партнёрства и последствия для ры…

HardwareОблачные технологииNVIDIAИнновацииНовости
Tproger
RU

Как Vision-Language Models учатся работать с 3D-миром

Привет, Хабр! Сегодня поговорим о том, как роботы работают с предметами в реальной жизни. Современные роботы умеют выполнять множество простых опера…

VLMVision-Language Modelsробототехникакомпьютерное зрение3D-моделированиеspatial reasoningretrieval-augmented generationNVIDIAманипуляторыискусственный интеллект
Habr
RU

Мы уткнулись в потолок. Почему видеокарты перестали быстро расти — и что с этим делать

H100 стоит $30 000 и потребляет 700 Вт. RTX 5090 — $2 000 (де-факто больше) и 575 Вт. Прирост производительности между поколениями сжался с 80% до 1…

GPUNVIDIAзакон МураHBMAI инфраструктурачиплетыархитектура GPULLMH100Blackwell
Habr
RU

Сравнение гибридных языковых моделей класса 9B для промышленного инференса

В материале сравниваются три открытые гибридные модели класса 9B (NVIDIA Nemotron‑Nano‑9B‑v2, Bamba‑9B‑v2, Qwen3.5‑9B) с референсной плотной Llama 3…

ПроизводительностьРаботаБотыIBMNVIDIAМаркетингQAАналитикааналитикGPUСтатьи