RU

[Перевод] Масштабирование LLM: от одного чипа до ЦОДа. Глава 5. Инференс

Предыдущая глава Ну а теперь рассмотрим, как нам применить обученный трансформер. И применение уже обученной модели сильно отличается от тренировки,…

llmaimlgpugpu вычисленияанализ и проектирование системmlops
Habr
RU

От legacy до промышленной платформы: инженерная эволюция OSA в «Магнит»

Как мы провели проект через четыре «эпохи» — от ручных запусков на Windows‑планировщике до Spark + k8s на масштабе сет…

data engineerbigdatamlopsdata scienceosapysparkоблачные вычисленияархитектура системыdatalake
Habr
RU

Почему пилоты ИИ не масштабируются? У них нет системы управления

Пилот ИИ может хорошо работать на демонстрации и всё равно быть не готовым к промышленной эксплуатации. В статье разберем, какие элементы управления…

искусственный интеллектсистемная инженерияуправление проектамиуправление рискамицифровая трансформацияархитектура предприятияai governancemlops
Habr