Qwen 3.6 27b на 8-12gb vram в llama.cpp до 256к контекста
Вышло 2 модели prism-ml/Ternary-Bonsai-27B-gguf и prism-ml/Bonsai-27B-gguf Модели представлены в 2-битном и 1-битном вариантах и занимают всего 7,2…
Tech news from the best sources
Вышло 2 модели prism-ml/Ternary-Bonsai-27B-gguf и prism-ml/Bonsai-27B-gguf Модели представлены в 2-битном и 1-битном вариантах и занимают всего 7,2…
Это история о том, как я собрал полностью локальную ИИ-среду разработки (и почему вам стоит сделать то же самое). Переезд из Евросоюза в Москву каза…