RU

Как я выбирал локальную модель для кодинга на 16 ГБ VRAM — и трижды менял победителя

Сначала я выбрал модель, которая отлично писала код. Подключил её к OpenCode и выяснил, что создавать файлы на диске она просто не&nb…

локальные LLMлокальные нейросетиQwen3-Coderllama.cppOpenCodeмодели для программированияквантование моделейVRAMWordPress-разработкаагентское программирование
Habr
RU

Почему дорогая LLM дороже: экономика инференса, которую видно в твоём 5-часовом лимите

Каждый из вас, кто работал с Claude или с ChatGPT, смотрел на свои лимиты Или задавался вопросом «Да как один запрос съел 10% от лимита» Я потратил…

LLMMoEactive-параметрыKV-cacheинференс LLMoutput-токеныreasoning-токеныVRAMclaude codecodex
Habr
RU

А что если бы видеопамять можно было использовать как обычную RAM?

У меня 8 гигабайт оперативки. На бумаге звучит терпимо — ровно до того момента, пока не откроешь десятка два вкладок в хроме, рядом Figma, Slack, ещ…

RAMVRAMSwapОптимизация памятиВидеокартыGPU.ChromeНоутбукиGpuRamDriveФайл подкачки