Развернул Gemma 4 31B на одной 4090 48GB — и проверил, нужен ли Q8
Развернул Gemma 4 31B на одной 4090 (48 ГБ) — и проверил нужен ли «честный» Q8, и переживает ли tool-calling 4-бита. Q8 не дал ничего (+0.007 — шум), …
Latest News
⚑ Report a ProblemTech news from the best sources