RU

Можно ли научить маленькую LLM учиться без роста весов? Продолжение: почему повторное обучение упёрлось в потолок

В первой статье я показал несколько опытов с небольшой моделью (её размер влезает в обычную домашнюю видеокарту) вокруг одного вопроса: может ли так…

llmcontinual learningloraдистилляциямашинное обучениеэкспериментыверификацияnatural language processing
Habr
RU

Своя модель решений на русском за вечер аренды GPU: что она умеет, сколько стоит и где проигрывает

Немалую долю задач в бизнесе, где применим ИИ можно свести к выбору варианта ответа на тот или иной вопрос, например, куда направить обращение, кто…

классификациямодель решенийкалибровкаloraqwenyandexgptgigachatавтоматизациярусский nlphugging face
Habr
RU

Я б в ИИ-шечку пошёл, пусть меня научат

Привет, Хабр! В эфире руководитель проектов компьютерной редакции издательства «БХВ» @Holmogorov и сегодня я хотел бы поговорить о будущем, вернее о…

ИИлитературакнигибхвAIllmагентымашинное обучениеloraискусственный интеллект
Habr
RU

От 3000 сессий в месяц до 100 в секунду: как LLM заменила ручную оценку ботов поддержки

Привет, Хабр! На связи Ангелина Большина, Денис Толкачев и Игорь Буянов, команда Customer Support NLP, мы разрабатываем ботов для службы поддержки к…

мтсmws aigcr2.0чатботыискусственный интеллекllmподдержка клиентовloraGROSSразметка
Habr
RU

От 3000 сессий в месяц до 100 в секунду: как LLM заменила ручную оценку ботов поддержки

Привет, Хабр! На связи Ангелина Большина, Денис Толкачев и Игорь Буянов, команда Customer Support NLP, мы разрабатываем ботов для службы поддержки к…

мтсmws aigcr2.0чатботыискусственный интеллекllmподдержка клиентовloraGROSSразметка
Habr
RU

Хотел свою систему, которую можно менять когда угодно, и сделал три десктопных AI-приложения

Я всегда хотел иметь свою систему: свои приложения, в которых можно изменить что угодно, а не что-то чужое, что завтра могут поменять. Так появился…

Aiai-агентыtaurielectronollamaлокальные llmfine-tuningloraдесктопные приложенияreact
Habr
RU

Проверка теории улучшения результата LoRA файн‑тюнинга на «умных» слоях

При LoRA‑дообучении адаптеры обычно применяются ко всем слоям модели, хотя активность разных слоев во время обработки промпта заметно разл…

машинное обучениедообучение llmlorafine-tuningtransformerspytorchhuggingfacenlpllmresearch
Habr
RU

Как я автоматизировал создание стикеров для соцсетей: локально обучаем стилевую LoRA для SD 1.5 на 30 картинках

Генерация красивых единичных артов давно перестала быть проблемой. Но как только возникает прикладная задача — например, сделать…

stable diffusionloracomfyuiгенерация изображенийобучение нейросетидатасетonetrainerстикерыblipsd1.5
Habr
RU

Как я обучил русский RAG‑сплиттер, который режет документы по индексам, а не по тексту

TL;DR.  Из интереса обучил собственный русский RAG‑сплиттер — захотелось проверить, можно ли сделать context‑aware‑нарезку русск…

ragчанкингдистилляцияloraunslothтокенизацияllama.cppggufvulkanamd
Habr