RU

Проверка теории улучшения результата LoRA файн‑тюнинга на «умных» слоях

При LoRA‑дообучении адаптеры обычно применяются ко всем слоям модели, хотя активность разных слоев во время обработки промпта заметно разл…

машинное обучениедообучение llmlorafine-tuningtransformerspytorchhuggingfacenlpllmresearch
Habr