RU

Дело о 38 токенах в секунду: почему M3 Ultra начинал с двенадцати

Всё началось с простой, на первый взгляд, задачи. Я хотел использовать локально Qwen3.8-27B именно в BF16. Причём не исходный PyTorch-чекпойнт через…

Qwen3.8-27BDFlash2oMLXMLXApple SiliconMac Studio M3 Ultraлокальные LLMинференс LLMspeculative decodingBF16
Habr
RU

Двойная точность: в основном «найти и заменить», плюс два настоящих сюрприза

В этой части мы используем sgemm как шаблон и проверим, что действительно меняется при переходе к dgemm : сначала пройдём скучную часть с удвоенными…

SME2dgemmдвойная точностьFEAT_SME_F64F64тайлы ZA64FMOPAдинамическая диспетчеризацияApple SiliconBLIS
Habr
RU

Микроядро SME2 sgemm: 1024 умножения-сложения за проход

В этой части мы возьмём первый из пропусков BLIS — микроядро sgemm ; сначала зафиксируем форму аккумулятора 32×32 в четырёх тайлах ZA, затем разберё…

BLISGEMMSME2Apple Siliconмикроядрокэш-блокингупаковка данныхвысокопроизводительные вычислениялинейная алгебраBLAS
Habr
RU

BLIS: недостающую среднюю ступеньку построили тридцать лет назад

В этой части мы начнём с тупика, в который приводит голый цикл FMOPA ; затем покажем, какую часть GEMM BLIS уже построил за нас; после этого разберё…

BLISGEMMSME2Apple Siliconмикроядрокэш-блокингупаковка данныхвысокопроизводительные вычислениялинейная алгебраBLAS
Habr
RU

Шесть часов на один рендер: как я собрал нативную студию Ideogram 4 на Swift и MLX

Я запустил Ideogram 4 локально на Mac, а затем собрал для него нативное приложение на Swift и MLX — без отдельного Python-процесса во время рендера.…

искусственный интеллектCyclonminigenIdeogram 4MLXSwiftApple SiliconmacOSгенерация изображенийлокальный ИИopen source
Habr
RU

«Четыре шага — и точка» Я сам придумал главное ограничение своего приложения

Пару недель назад я рассказывал здесь, как три ночи чинил рендер, который не был сломан . С тех пор в главном ничего не изменилось: я по-прежнему эн…

FLUX.2KleinMLXApple Siliconгенерация изображенийLoRAобучение LoRASwiftmacOSлокальный ИИ
Habr
RU

Картинки рвало полосами, а файлы при этом были чистыми

Три ночи я был уверен, что у меня сломан рендер. Вертикальные картинки — те самые 9:16, под обои телефона и под сторис, — на экране разъезжались гор…

FLUX.2MLXApple SiliconmacOSSwiftгенерация изображенийлокальная нейросетьon-device AIKleinopen source
Habr
RU

Обновление macOS для инженеров поддержки

В этой статье разберём, как правильно подходить к обновлению macOS в корпоративной среде. Материал будет особенно полезен инженерам поддержки: рассм…

Обновление macOSИнженер поддержки MacmacosworkflowupdateSoftware Update macOSЧек-листApple SiliconTime MachineCarbon Copy Cloner
Habr