RU

[Перевод] PyTorch MPS против Apple MLX: как дообучать LLM на Mac с 16 ГБ и что выбрать

Apple MLX создавался для эффективной работы с моделями на Apple Silicon, но при дообучении он может оказаться в нескол…

дообучение LLMApple SiliconPyTorch MPSApple MLXLoRAQLoRAквантование моделейлокальное обучениеоптимизация памятиLLM-агенты
Habr
RU

Apple Intelligence. Минус 30 гигабайт во имя будущего (которое мы не просили устанавливать)

Два года назад Apple пообещала сделать наши устройства умнее. За это время искусственный интеллект научился многому, но ещё быстрее научил…

Apple Intelligenceискусственный интеллектmacOSiOSSiriлокальные AI-моделидисковое пространствооптимизация памятиудаление Apple IntelligenceApple Silicon
Habr
RU

[Перевод] Локальный запуск Qwen-Image-2.1 без safety checker: тест на MacBook Air с 16 ГБ памяти

Команда Qwen из Alibaba выпустила Qwen-Image-2.1 — модель для генерации и редактирования изображений на базе diffusion transformer с 7 млрд параметр…

Qwen-Image-2.1генерация изображенийлокальный ИИApple SiliconMLXGGUFMacBook AirComfyUI
Habr
RU

Локальный агент для кода на Mac: MTPLX + pi + Qwen3.8-27B. Что реально ускоряет, а что нет

Я хотел, чтобы кодовый агент работал целиком на ноутбуке, без облака: локальная модель, локальный сервер, агент в терминале. Главная боль с самого н…

локальные LLMApple SiliconMLXMTPLXспекулятивное декодированиеMTPAI-агентыQwenpi
Habr
RU

Дело о 38 токенах в секунду: почему M3 Ultra начинал с двенадцати

Всё началось с простой, на первый взгляд, задачи. Я хотел использовать локально Qwen3.8-27B именно в BF16. Причём не исходный PyTorch-чекпойнт через…

Qwen3.8-27BDFlash2oMLXMLXApple SiliconMac Studio M3 Ultraлокальные LLMинференс LLMspeculative decodingBF16
Habr
RU

Шесть часов на один рендер: как я собрал нативную студию Ideogram 4 на Swift и MLX

Я запустил Ideogram 4 локально на Mac, а затем собрал для него нативное приложение на Swift и MLX — без отдельного Python-процесса во время рендера.…

искусственный интеллектCyclonminigenIdeogram 4MLXSwiftApple SiliconmacOSгенерация изображенийлокальный ИИopen source
Habr
RU

«Четыре шага — и точка» Я сам придумал главное ограничение своего приложения

Пару недель назад я рассказывал здесь, как три ночи чинил рендер, который не был сломан . С тех пор в главном ничего не изменилось: я по-прежнему эн…

FLUX.2KleinMLXApple Siliconгенерация изображенийLoRAобучение LoRASwiftmacOSлокальный ИИ
Habr
RU

Картинки рвало полосами, а файлы при этом были чистыми

Три ночи я был уверен, что у меня сломан рендер. Вертикальные картинки — те самые 9:16, под обои телефона и под сторис, — на экране разъезжались гор…

FLUX.2MLXApple SiliconmacOSSwiftгенерация изображенийлокальная нейросетьon-device AIKleinopen source
Habr