RU

Apple Intelligence. Минус 30 гигабайт во имя будущего (которое мы не просили устанавливать)

Два года назад Apple пообещала сделать наши устройства умнее. За это время искусственный интеллект научился многому, но ещё быстрее научил…

Apple Intelligenceискусственный интеллектmacOSiOSSiriлокальные AI-моделидисковое пространствооптимизация памятиудаление Apple IntelligenceApple Silicon
Habr
RU

[Перевод] Локальный запуск Qwen-Image-2.1 без safety checker: тест на MacBook Air с 16 ГБ памяти

Команда Qwen из Alibaba выпустила Qwen-Image-2.1 — модель для генерации и редактирования изображений на базе diffusion transformer с 7 млрд параметр…

Qwen-Image-2.1генерация изображенийлокальный ИИApple SiliconMLXGGUFMacBook AirComfyUI
Habr
RU

Локальный агент для кода на Mac: MTPLX + pi + Qwen3.8-27B. Что реально ускоряет, а что нет

Я хотел, чтобы кодовый агент работал целиком на ноутбуке, без облака: локальная модель, локальный сервер, агент в терминале. Главная боль с самого н…

локальные LLMApple SiliconMLXMTPLXспекулятивное декодированиеMTPAI-агентыQwenpi
Habr
RU

Упаковщик наносит ответный удар: ZA как машина транспонирования

В этой части мы вернёмся к работе, которую предыдущие главы принимали как готовую: упаковке. Сначала найдём скалярную ловушку в упаковке B, затем ис…

SME2Apple SiliconBLISGEMMZAтранспонированиеупаковка панелейSVE2микроядровысокопроизводительные вычисления
Habr
RU

Комплексный GEMM: четыре вещественных внешних произведения в одном флаконе

В этой части мы сначала отделим прямой комплексный путь от готового метода 1m; затем покажем конфликт между чередующимся форматом памяти и раздельно…

SME2dgemmтайлы ZA64FMOPAдинамическая диспетчеризацияApple SiliconBLIS
Habr
RU

Дело о 38 токенах в секунду: почему M3 Ultra начинал с двенадцати

Всё началось с простой, на первый взгляд, задачи. Я хотел использовать локально Qwen3.8-27B именно в BF16. Причём не исходный PyTorch-чекпойнт через…

Qwen3.8-27BDFlash2oMLXMLXApple SiliconMac Studio M3 Ultraлокальные LLMинференс LLMspeculative decodingBF16
Habr
RU

Двойная точность: в основном «найти и заменить», плюс два настоящих сюрприза

В этой части мы используем sgemm как шаблон и проверим, что действительно меняется при переходе к dgemm : сначала пройдём скучную часть с удвоенными…

SME2dgemmдвойная точностьFEAT_SME_F64F64тайлы ZA64FMOPAдинамическая диспетчеризацияApple SiliconBLIS
Habr
RU

Микроядро SME2 sgemm: 1024 умножения-сложения за проход

В этой части мы возьмём первый из пропусков BLIS — микроядро sgemm ; сначала зафиксируем форму аккумулятора 32×32 в четырёх тайлах ZA, затем разберё…

BLISGEMMSME2Apple Siliconмикроядрокэш-блокингупаковка данныхвысокопроизводительные вычислениялинейная алгебраBLAS
Habr
RU

BLIS: недостающую среднюю ступеньку построили тридцать лет назад

В этой части мы начнём с тупика, в который приводит голый цикл FMOPA ; затем покажем, какую часть GEMM BLIS уже построил за нас; после этого разберё…

BLISGEMMSME2Apple Siliconмикроядрокэш-блокингупаковка данныхвысокопроизводительные вычислениялинейная алгебраBLAS
Habr
RU

Шесть часов на один рендер: как я собрал нативную студию Ideogram 4 на Swift и MLX

Я запустил Ideogram 4 локально на Mac, а затем собрал для него нативное приложение на Swift и MLX — без отдельного Python-процесса во время рендера.…

искусственный интеллектCyclonminigenIdeogram 4MLXSwiftApple SiliconmacOSгенерация изображенийлокальный ИИopen source
Habr
RU

«Четыре шага — и точка» Я сам придумал главное ограничение своего приложения

Пару недель назад я рассказывал здесь, как три ночи чинил рендер, который не был сломан . С тех пор в главном ничего не изменилось: я по-прежнему эн…

FLUX.2KleinMLXApple Siliconгенерация изображенийLoRAобучение LoRASwiftmacOSлокальный ИИ
Habr
RU

Картинки рвало полосами, а файлы при этом были чистыми

Три ночи я был уверен, что у меня сломан рендер. Вертикальные картинки — те самые 9:16, под обои телефона и под сторис, — на экране разъезжались гор…

FLUX.2MLXApple SiliconmacOSSwiftгенерация изображенийлокальная нейросетьon-device AIKleinopen source
Habr
RU

Обновление macOS для инженеров поддержки

В этой статье разберём, как правильно подходить к обновлению macOS в корпоративной среде. Материал будет особенно полезен инженерам поддержки: рассм…

Обновление macOSИнженер поддержки MacmacosworkflowupdateSoftware Update macOSЧек-листApple SiliconTime MachineCarbon Copy Cloner
Habr