RU

Зачем Авито нужна своя Inference-платформа для ML/LLM-сервисов: PaaS vs отдельное решение

Привет, Хабр! Меня зовут Антон Алексеев , я ML Ops-инженер в Авито . В этой статье я разберу, почему существующий PaaS — отличный инструмент для веб…

inferencemlopsKServeLLMKubernetesPaaSML-платформаopen sourceML-инфраструктурасезон код будущего
Habr
RU

ML для больших компаний: от DevBox до платформы на тысячу пользователей

Привет, Хабр! Меня зовут Антон Алексеев , я MLOps-инженер в Авито .  В статье рассказываю, как мы строим ML-платформу на базе Kubeflow. От перв…

ml-platformgpuaiKubeflowKServeагентские платформыDevBoxмашинное обучениеинфраструктураdistributed training