RU

Зачем Авито нужна своя Inference-платформа для ML/LLM-сервисов: PaaS vs отдельное решение

Привет, Хабр! Меня зовут Антон Алексеев , я ML Ops-инженер в Авито . В этой статье я разберу, почему существующий PaaS — отличный инструмент для веб…

inferencemlopsKServeLLMKubernetesPaaSML-платформаopen sourceML-инфраструктурасезон код будущего
Habr
RU

Зелёный пайплайн ничего не доказывает. Семь способов, которыми quality gate пропускает брак в прод

if roc_auc < 0.85: exit 1 — примерно так выглядит quality gate почти в каждом ML-пайплайне, который мне попадался. В обычном CI то же самое — кол…

qualitygatesquality gatedevopscimlopsмашинное обучениетестированиекачество кодавалидация моделейruvds_статьи
Habr
EN

CI said the deploy succeeded

There is a moment in every incident where someone asks "wait, is the fix even deployed?" and the room goes quiet. Somebody pulls up the CI dashboard…

aidevopsmlops
Dev.to
RU

От 6 часов до 20 минут: как мы ускорили коллаборативную модель в рекомендациях Авито

Привет, я Салават Динмухаметов, senior ML-engineer в команде рекомендаций Авито . В статье расскажу, как мы изменили систему рекомендаций на главной…

рекомендательные системыколлаборативная фильтрацияэмбеддингиmlopskafkagpukubeflow
Habr
RU

Kubernetes без границ: Managed Kubernetes как вычислительный центр для ИИ

Эволюция искусственного интеллекта дошла до стадии, когда загрузка весов нейросети из открытого репозитория сводится к нескольким кликам, тогда как…

vk cloudmanaged kuberneteskubernetes для ииgpu-as-a-servicegpu-кластерымашинное обучениеmlopskubeflowkservenvidia gpu operator
Habr
RU

Почему ML-модель получает неправильные признаки: Event Time, Watermarks и Apache Flink

Представьте: вы разрабатываете антифрод-систему для банка. Пользователь совершает пять покупок подряд за пару минут. Все транзакции успешно попадают…

mlmlopsjavaпродакшенapache flinkdata engineeringWatermarkstreamingreal-time MLai
Habr