RU

LLM не должен читать логи без ограничений: безопасный MCP-шлюз для разбора сбоев

Как дать LLM разбирать сбои в пайплайнах, не открывая ей доступ к сырым логам и произвольным SQL-запросам Читать далее

MCPLLMбезопасностьинженерия данныхпайплайныинцидентыSQLpythonагентская разработкаdata engineering
Habr
RU

Система экстренных оповещений на 15 тысяч пользователей: LLM, PostGIS, Qdrant и Telegram

Главная инженерная задача здесь — превратить поток неструктурированного текста из сотен телеграм-каналов в события, с которыми может работать осталь…

оповещениятелеграм-боттелеграмllmdata engineeringdata analysis
Habr
RU

Проектирование архитектуры плагинов для сторонних провайдеров баз данных в TypeScript-приложении

Я работал над архитектурой LibreDB Studio — IDE для баз данных на TypeScript, которая поддерживает несколько SQL/NoSQL баз данных. Работая над слоем…

software architecturetypescriptjavascriptdata engineeringpluginsdatabase
Habr
RU

650 млн точек, 3 поломки и PI System: технический разбор предиктивной аналитики на НПЗ (часть 2)

Часть 2 из 2. В первой части серии мы предсказали отказ насоса за 60 дней и выяснили, что годами чинили не то. Увидели, что материал встретил вашу ж…

машинное обучениеdata engineeringbig dataпромышленностьнефтегазпредиктивная аналитикаtime seriesanomaly detectionmlopsindustrial ocean
Habr
RU

[Перевод] Автономность ИИ‑агентов в аналитике: сопротивляющаяся среда

В предыдущей статье я писал, что уровень автономности ИИ-агента слабо связан с тем, насколько умной кажется модель. Способность системы обнаруживать…

ии-агентыai agentsdata engineeringdata qualityаналитика данныхавтономность ИИтестирование ИИcoverage map
Habr
RU

Как превратить LLM-разметку в универсальный Spark-пайплайн

TL;DR: мы сделали llm_markup — Spark-приложение для массовой обработки данных через LLM API в существующем Airflow-контуре. Источник данных, промпт,…

data engineeringllmsparkpysparkopenai-compatible apillm-разметкаобработка текстовраспределённая обработка данныхdata pipelines
Habr
RU

Почему ML-модель получает неправильные признаки: Event Time, Watermarks и Apache Flink

Представьте: вы разрабатываете антифрод-систему для банка. Пользователь совершает пять покупок подряд за пару минут. Все транзакции успешно попадают…

mlmlopsjavaпродакшенapache flinkdata engineeringWatermarkstreamingreal-time MLai
Habr
RU

Внутри ИИ‑Напарника: как работает оркестр агентов в ритейле

Всем привет! Это Алексей из GlowByte. В прошлой статье я говорил о том, почему категорийный менеджер в большой сети часто чувств…

искусственный интеллектglowbyteмультиагентные системыdata engineeringllmprompt injectionинформационная безопасностьритейлавтоматизация бизнесаархитектура платформы
Habr
RU

CI/CD для данных и моделей на Airflow: как мы деплоим прогноз спроса в «Магните»

Артефакт нашей сборки — не бинарник, а код вместе с терабайтами рассчитанных таблиц. Рассказываем, как из штатных фич Airflow, Spark и Delta Lake у…

mlopssparkairflowdelta lakes3data engineeringмашинное обучениепрогнозирование спросаDataOpsоркестрация пайплайнов
Habr
RU

AI‑assisted development в малом бизнесе: как я собрала систему обработки отзывов для ресторанной сети

Я маркетолог и до этого проекта не писала код. Но с помощью GPT собрала рабочую систему сбора, обработки и аналитики отзывов для ресторанной сети: 1…

AI-assisted developmentChatGPTавтоматизация бизнес-процессовCloudflare WorkersCloudflare D1serverlessETLинтеграция APIdata engineeringавтоматизация отзывов
Habr
RU

Пока все хоронили пайплайны, ClickHouse достраивал слои

«Отдельные базы больше не нужны», «конец пайплайнов» - каждую неделю кто-то крупный со сцены хоронит то, что ты вчера поставил в прод. ClickHouse по…

clickhousepostgresqlClickstackolaplakehousedata engineeringobservabilityколоночная субдClickHouse AgentsOpen House 2026
Habr
RU

Как я собрал эталонный Data Engineering проект: ClickHouse, Kafka, Spark, dbt, Airflow и Superset за одну команду

Меня зовут Андрей, я работаю с данными. И так получается, что на реальных проектах у меня никогда не было возможности собрать идеальный, на мой взгл…

data engineeringdata sciencedata miningbig datacryptocurrency
Habr
RU

AI-метрдотель для ресторанной сети: архитектура, сценарии и интеграции

Чат-боты в ресторанном бизнесе чаще всего начинают с простой задачи: снять часть нагрузки с менеджеров и отвечать гостям на типовые вопросы. На прак…

ai-ассистентыragtelegram apicrm-системыпроектирование apipostgresqlqdrantdata engineeringавтоматизация бизнесачат-боты
Habr
RU

Медленные запросы в Impala: как анализировать profile и не выносить SQL наружу

Когда Impala-запрос начинает выполняться заметно дольше обычного, первое место, куда обычно идут смотреть, — query profile. Там есть план выполнения…

impalaapache impalaclouderacloudera managerhadoopsqlquery optimizationdata engineeringobservabilitybigdata
Habr
RU

Вам продают ИИ. Покупать нужно не его

Звонил мне на днях один знакомый CIO. Питерский, ритейл, средний бизнес, ничего особенного. Слушай, говорит, надо нам с ИИ что-то делать: все вокруг…

llmragискусственный интеллектлокальные моделиэмбеддингиархитектура данныххранилища данныхвнедрение ииdata engineeringцена ошибки