Open Source — Tech News

All topics AI agents ai api architecture automation backend beginners career database devchallenge devops discuss javascript linux llm machinelearning mcp opensource performance productivity programming python react security showdev testing tutorial typescript webdev

RU

Дело о 38 токенах в секунду: почему M3 Ultra начинал с двенадцати

Всё началось с простой, на первый взгляд, задачи. Я хотел использовать локально Qwen3.8-27B именно в BF16. Причём не исходный PyTorch-чекпойнт через…

Qwen3.8-27B DFlash2 oMLX MLX Apple Silicon Mac Studio M3 Ultra локальные LLM инференс LLM speculative decoding BF16