RU

Конвертируем цвета в JS со скоростью 6 миллиардов операций в секунду

В начале этого года я создал самую быструю JS-библиотеку для работы с цветом: парсинг различных форматов, конвертация в OKLAB/OKLCH, проверка попадани…

JavaScriptWebGLGPUфрагментные шейдерыGLSLOKLCHпроизводительностьоптимизацияcanvascolordx
Habr
RU

Полез в исходники vLLM, чтобы понять, почему один символ убивает prompt caching

В первой части я вывел одно правило и предложил жить по нему: стабильное в начало, изменчивое в хвост , один символ в системном промпте обнуляет весь …

prompt cachingKV-cacheprefix cachingPagedAttentionvLLMLLMинференс LLMGPUprefillоптимизация
Habr
RU

Как нарисовать тысячи объектов на карте и не убить FPS: эволюция рендера на Mapbox GL

Когда-то давно я разрабатывал геолокационную соцсеть, где на карте живут «облака» — посты, привязанные к точке. И этих облаков на экране могло быть оч…

iOSSwiftMapboxкартырендерингпроизводительностьоптимизацияGPUFPSdata-driven
Habr
RU

Cloud.ru запустила Evolution Stack.ML для обучения ИИ-моделей в гибридном облаке

Cloud.ru вывела в коммерческую эксплуатацию платформу Evolution Stack.ML для обучения ИИ-моделей. Для кого решение и какие цифры приводит компания. — …

Машинное обучениеОблачные технологииИнновацииКибербезопасностьGPUИнфраструктураНовости
Tproger
RU

Живой космос на Metal: как я переписывал фон мобильной игры и поднимал FPS с 20 до 120

В мобильной разработке мы привыкли, что красивый анимированный фон — это либо видео, либо пара слоёв с CAGradientLayer и медленным параллаксом. Для бо…

Metalшейдерыоптимизация производительностиiOSSwiftSpriteKitGPUMTKViewfragment shaderмобильная графика
Habr
RU

Продали дом за 7 000 000₽ и потеряли в майнинге. Видеокарты остались — из них вырос сервис генерации

Начну с того, в чём стыдно признаваться. В конце 2021 года мы продали дом в Краснодаре за 7 млн. рублей и почти половину…

майнингвидеокартыGPUкриптовалютастартапнейросетьгенерация изображенийИИопытпровал
Habr
RU

Кто ворует ваш GPU: атаки на открытые LLM-эндпоинты (Ollama, llama.cpp) — и при чём тут кража облачных ключей

Коротко тезис: открытый Ollama — это бесплатный GPU для атакующего , и охота за таким compute давно поставлена на поток. Но за май наша сеть ханипотов…

LLMOllamallama.cpphoneypotSSRFIMDSинформационная безопасностьGPUn8n
Habr
RU

Кремниевый король: Как NVIDIA заложила фундамент нейросетевой революции

Как компания, чьи чипы изначально предназначались для отрисовки полигонов в видеоиграх, стала главным бенефициаром ИИ-революции и пробила потолок капи…

NVIDIACUDAGPUмашинное обучениеистория ITархитектура процессоровДженсен Хуанг.
Habr
RU

«Серебряной пули не существует»: как RWB строит промышленный ИИ

Как Wildberries экономит миллионы с помощью ИИ: реальные кейсы, работающие решения и открытые инсайты от RWB, Avito, VK и Сбера. — Читать дальше « «Се…

Искусственный интеллектGPUИнфраструктураЖелезоСтатьи
Tproger
RU

Калькулятор VRAM для локальных LLM: Какие модели ИИ запустятся у вас на компьютере?

Когда я начал ковыряться с локальными LLM, главная боль была не в установке моделей, а в понимании, что вообще влезет в моё железо. Документация Huggi…

LLMVRAMllama.cppлокальные моделиквантованиеKV cacheGQAбенчмаркGPU
Habr
RU

От GPU к платформе: как Selectel строит AI-инфраструктуру для бизнеса

Selectel анонсировал новый AI-сервер и публичный каталог LLM на конференции «MLечный путь». Разбираемся, как сбалансированная инфраструктура и партнер…

КонференцииИскусственный интеллектDevOpsОблачные технологииАналитикаGPUСтатьи
Tproger
RU

Мы уткнулись в потолок. Почему видеокарты перестали быстро расти — и что с этим делать

H100 стоит $30 000 и потребляет 700 Вт. RTX 5090 — $2 000 (де-факто больше) и 575 Вт. Прирост производительности между поколениями сжался с 80% до 15–…

GPUNVIDIAзакон МураHBMAI инфраструктурачиплетыархитектура GPULLMH100Blackwell
Habr
RU

Сравнение гибридных языковых моделей класса 9B для промышленного инференса

В материале сравниваются три открытые гибридные модели класса 9B (NVIDIA Nemotron‑Nano‑9B‑v2, Bamba‑9B‑v2, Qwen3.5‑9B) с референсной плотной Llama 3.1…

ПроизводительностьРаботаБотыIBMNVIDIAМаркетингQAАналитикааналитикGPUСтатьи
Tproger
RU

DLSS 5 — не провал. Будущее рендеринга: глубокий технический взгляд на новые подходы после 15-ти лет в геймдеве

Сегодня мы с вами погрузимся в технические дебри революции графического рендеринга. Проследим историю его развития, и конечно, заглянем в ближайшее бу…

Разработка игрИскусственный интеллектКомпьютерная графикаNVIDIA3D-технологииИнновацииGPUТехникаСтатьи