RU

Как и почему мы проектировали последнее коммерческое облако России и от какого буллшита избавились по ходу

Меня часто спрашивают: — Почему к вам, а не к гигантам? Ответ простой: — Мы не охреневшие. Сначала я хотел рассказать про нашу сеть хранения, котора…

h3lloKubernetesVPCЦОДотказоустойчивостьоблачные технологиисерверыбиллингинформационная безопасность
Хабр — Управление
RU

ИИ в DevOps или как мы слепо доверяем сгенерированным манифестам

ИИ может за секунды сгенерировать аккуратный Kubernetes‑манифест, который пройдет валидацию и даже успешно запустится в кластере — а&…

KubernetesDevOpsискусственный интеллектLLMKubernetes-манифестыYAMLбезопасность контейнероввалидация конфигурацийOPAkubeconform
Habr
RU

Зачем Авито нужна своя Inference-платформа для ML/LLM-сервисов: PaaS vs отдельное решение

Привет, Хабр! Меня зовут Антон Алексеев , я ML Ops-инженер в Авито . В этой статье я разберу, почему существующий PaaS — отличный инструмент для веб…

inferencemlopsKServeLLMKubernetesPaaSML-платформаopen sourceML-инфраструктурасезон код будущего
Habr
RU

Почему инференс LLM становится дорогим и как снизить расходы на GPU без покупки новых карт

Высокая загрузка GPU ещё не означает, что инфраструктуре не хватает ресурсов. В продакшене значительная часть времени может уход…

LLMинференсмашинное обучениеMLOpsGPUvLLMKubernetesнейронные сетиоптимизацияквантование
Habr
RU

[Перевод] Ваша платформа Kubernetes готова к контейнерам. Готова ли она к ИИ?

Kubernetes дал платформенным командам единообразный способ развёртывать, масштабировать и эксплуатировать контейнеризированные приложения. Теперь мн…

vk cloudKubernetesИИ-нагрузкиплатформенная инженерияGPUгетерогенные вычисленияGitOpsCI CDobservabilityинференс
Habr