RU

Проверка теории улучшения результата LoRA файн‑тюнинга на «умных» слоях

При LoRA‑дообучении адаптеры обычно применяются ко всем слоям модели, хотя активность разных слоев во время обработки промпта заметно разл…

машинное обучениедообучение llmlorafine-tuningtransformerspytorchhuggingfacenlpllmresearch
Habr
RU

[Перевод] Маршрутизация моделей кажется простой задачей. Но только до продакшна

Маршрутизация языковых моделей кажется достаточно тривиальной задачей: простые запросы уходят дешевым моделям, сложные — дорогим.  Еще можно вы…

архитектурамаршрутизациямодельязыковые моделиai-агентыискусственный интеллектhuggingfacehugging face
Habr