RU

Как я ужал русский эмбеддер до 24 млн параметров — и чуть не испортил его одной цифрой

TL;DR.  У меня локальный RAG на AMD Strix Halo. Памяти там достаточно, но вычислительно всё упирается в один iGPU: его деля…

эмбеддингиRAGretrievalэнкодерыRuModernBERTSTRIZHllama.cppGGUFVulkanStrix Halo