RU

Можно ли научить маленькую LLM учиться без роста весов? Продолжение: почему повторное обучение упёрлось в потолок

В первой статье я показал несколько опытов с небольшой моделью (её размер влезает в обычную домашнюю видеокарту) вокруг одного вопроса: может ли так…

llmcontinual learningloraдистилляциямашинное обучениеэкспериментыверификацияnatural language processing
Habr
RU

Можно ли научить маленькую LLM учиться без роста весов? Замеры, баги и честная статистика

Мейнстрим растит модели масштабом. Мы меряем ортогональное: можно ли растить компетентность маленькой модели без роста весов — через…

LLMcontinual learningLoRAдистилляциямашинное обучениеэкспериментыверификация
Habr
RU

Как добавить в умную колонку новые команды и ничего не сломать

Чтобы дать команду умной колонке, не обязательно говорить активационное слово «Алиса»: есть быстрые команды — короткие фразы, с …

keyword spottingголосовая активацияумные устройстваалисабыстрые командыcontinual learningmachine learningdeep learningspeech processingобработка звука