RU

CMF: решения за миллисекунды без генерации токенов (аналог Jev) с открытыми весами

CMF модель для быстрого принятия решений (аналог Jev) — локальная модель для выбора решений без генерации токенов. Она определяет класс, умеет отказ…

LLMклассификациямаршрутизацияинференсмашинное обучениеGPUVulkanMetalRustквантование
Habr
RU

Локальные нейросети без Python, CUDA и терминала: делаю программу, в которой всё настраивается само

Vulkan на моей GTX 1080 генерирует в полтора раза быстрее CUDA. Qwen вставляет китайские слова в русский текст даже при температуре 0. А маленькая м…

локальные нейросетиLLMllama.cppRustTauriVulkanCUDAHuggingFaceGGUFOllivo
Habr
RU

Platinum One OS на базе Samsung M52 звонки, смс, Vulkan, Misa

Первый запуск Linux на телефоне выглядит как победа: появляется рабочий стол, реагирует сенсор, открывается терминал. Потом начинаешь пользоваться у…

Platinum OSLinuxSamsung Galaxy M52мобильная ОСUbuntuRustQt QuickVulkanAI-ассистентразработка ОС
Habr
RU

Как я ужал русский эмбеддер до 24 млн параметров — и чуть не испортил его одной цифрой

TL;DR.  У меня локальный RAG на AMD Strix Halo. Памяти там достаточно, но вычислительно всё упирается в один iGPU: его деля…

эмбеддингиRAGretrievalэнкодерыRuModernBERTSTRIZHllama.cppGGUFVulkanStrix Halo
Habr
RU

GPU Compute Engine для 1С: как перестать ждать часами и начать считать на видеокарте

Массовые расчёты в 1С — авансы, себестоимость, MRP — традиционно узкое место при больших объёмах данных. Последовательная обработка на CPU занимает…

GPU Compute Engine1СVulkanпараллельные вычислениявычислительные шейдерыMRPсебестоимостьавансыМонте-КарлоGPGPU.