RU

LLM не должен читать логи без ограничений: безопасный MCP-шлюз для разбора сбоев

Как дать LLM разбирать сбои в пайплайнах, не открывая ей доступ к сырым логам и произвольным SQL-запросам Читать далее

MCPLLMбезопасностьинженерия данныхпайплайныинцидентыSQLpythonагентская разработкаdata engineering
Habr
RU

Проектирование архитектуры плагинов для сторонних провайдеров баз данных в TypeScript-приложении

Я работал над архитектурой LibreDB Studio — IDE для баз данных на TypeScript, которая поддерживает несколько SQL/NoSQL баз данных. Работая над слоем…

software architecturetypescriptjavascriptdata engineeringpluginsdatabase
Habr
RU

Как превратить LLM-разметку в универсальный Spark-пайплайн

TL;DR: мы сделали llm_markup — Spark-приложение для массовой обработки данных через LLM API в существующем Airflow-контуре. Источник данных, промпт,…

data engineeringllmsparkpysparkopenai-compatible apillm-разметкаобработка текстовраспределённая обработка данныхdata pipelines
Habr
RU

Почему ML-модель получает неправильные признаки: Event Time, Watermarks и Apache Flink

Представьте: вы разрабатываете антифрод-систему для банка. Пользователь совершает пять покупок подряд за пару минут. Все транзакции успешно попадают…

mlmlopsjavaпродакшенapache flinkdata engineeringWatermarkstreamingreal-time MLai
Habr
RU

Книга: «Современная бизнес-аналитика. Увеличьте ценность данных с помощью Python и R»

Привет, Хаброжители! Извлечение ценности из данных — сложный процесс. Чтобы превратить данные в информацию, бизнес-аналитик должен уметь работать с…

pythonстатистика в itdata miningdata engineeringвизуализация данныхбазы данныхбизнес-моделиисследования и прогнозы в it
Habr
RU

Apache Spark и компиляция пользовательских функций UDF на Java в рантайме

Привет, Хабр! Меня зовут Михаил Сичалов, я   руководитель проектов и эксперт практики Applied Intelligence в компании Axenix. Это вводная стать…

apache sparkjavajaninouser defined functioncompilersruntime compilationdata engineeringблог компании Axenix
Habr
RU

AI‑assisted development в малом бизнесе: как я собрала систему обработки отзывов для ресторанной сети

Я маркетолог и до этого проекта не писала код. Но с помощью GPT собрала рабочую систему сбора, обработки и аналитики отзывов для ресторанной сети: 1…

AI-assisted developmentChatGPTавтоматизация бизнес-процессовCloudflare WorkersCloudflare D1serverlessETLинтеграция APIdata engineeringавтоматизация отзывов
Habr
RU

AI-метрдотель для ресторанной сети: архитектура, сценарии и интеграции

Чат-боты в ресторанном бизнесе чаще всего начинают с простой задачи: снять часть нагрузки с менеджеров и отвечать гостям на типовые вопросы. На прак…

ai-ассистентыragtelegram apicrm-системыпроектирование apipostgresqlqdrantdata engineeringавтоматизация бизнесачат-боты
Habr
RU

Единая база данных гостей для ресторанной сети: интеграция Telegram, Remarked, IIKO, RocketData и платёжных систем

В ресторанных сетях данные о гостях часто распределены между несколькими системами. Бронирования хранятся в одном сервисе, чеки — в ресторанной учёт…

data engineeringcustomer data platformiikoбазы данныхtelegram apiклиентская аналитикаискусственный интеллект