RU

Почему инференс LLM становится дорогим и как снизить расходы на GPU без покупки новых карт

Высокая загрузка GPU ещё не означает, что инфраструктуре не хватает ресурсов. В продакшене значительная часть времени может уход…

LLMинференсмашинное обучениеMLOpsGPUvLLMKubernetesнейронные сетиоптимизацияквантование
Habr
RU

Как проверить ML‑модель перед продом и избежать утечки данных в scikit‑learn

Высокая метрика на кросс‑валидации ещё не означает, что модель покажет такой же результат после запуска. Разрыв между офлайном и…

scikit-learnpipelineкросс-валидацияdata-leakageутечка-данныхtarget-encodingMLOpsантифродвалидация-модели
Habr
EN

Inside Target’s LLM-Based System for Semantic Matching in Marketing Forecast Pipelines

Target built a generative AI system to improve marketing campaign forecasting by retrieving and ranking similar historical campaigns. Using embeddin…

Systems ThinkingRetrieval-Augmented GenerationLarge Concept Modelsvector databasesData AnalyticsObservabilityEvolutionary ArchitectureMLOpsMachine LearningMarketingGenerative AIModel Fine TuningBusiness AnalyticsArchitecture & DesignDevelopmentAI, ML & Data Engineeringnews
InfoQ
RU

От экспериментов к инфраструктуре: почему корпоративный ИИ требует платформы, а не набора инструментов

Компании по всему миру и в частности российские снова и снова наступают на одни и те же грабли при внедрении ИИ — и причина, как правило, одна: ИИ н…

искусственный интеллектгенеративный ИИGenAIкорпоративный ИИплатформаITSMMLOpsLLMуправление рискамиAI governance
Habr
RU

Что происходит с SDLC в эпоху AI-агентов

Несколько месяцев назад в публичном пространстве появилась история, которую в engineering-сообществе стали называть поучительной. Команда AWS исполь…

AI4SDLCSE 2.0AI-native разработкаSDLCагентная разработкаMLOpsDevOpsпроизводительность разработкиDORAtask management
Habr
RU

От диплома до продакшена: … Часть 7: Инфра, MLOps и уроки масштабирования

3.3. Что я сделал бы иначе Закладывал бы MLOps с первого дня , а не «сначала модель, потом инфраструктура». Параллельно — дешевле. Автоматизировал б…

MLOpsмасштабированиепродакшнмашинное обучениеискусственный интеллектмониторинг моделейдрейф данныхKubernetesMLflowCI-CD
Habr