RU

Проектирование архитектуры плагинов для сторонних провайдеров баз данных в TypeScript-приложении

Я работал над архитектурой LibreDB Studio — IDE для баз данных на TypeScript, которая поддерживает несколько SQL/NoSQL баз данных. Работая над слоем…

software architecturetypescriptjavascriptdata engineeringpluginsdatabase
Habr
RU

Как превратить LLM-разметку в универсальный Spark-пайплайн

TL;DR: мы сделали llm_markup — Spark-приложение для массовой обработки данных через LLM API в существующем Airflow-контуре. Источник данных, промпт,…

data engineeringllmsparkpysparkopenai-compatible apillm-разметкаобработка текстовраспределённая обработка данныхdata pipelines
Habr
RU

Apache Spark и компиляция пользовательских функций UDF на Java в рантайме

Привет, Хабр! Меня зовут Михаил Сичалов, я   руководитель проектов и эксперт практики Applied Intelligence в компании Axenix. Это вводная стать…

apache sparkjavajaninouser defined functioncompilersruntime compilationdata engineeringблог компании Axenix
Habr
RU

CI/CD для данных и моделей на Airflow: как мы деплоим прогноз спроса в «Магните»

Артефакт нашей сборки — не бинарник, а код вместе с терабайтами рассчитанных таблиц. Рассказываем, как из штатных фич Airflow, Spark и Delta Lake у…

mlopssparkairflowdelta lakes3data engineeringмашинное обучениепрогнозирование спросаDataOpsоркестрация пайплайнов
Habr
RU

Как я собрал эталонный Data Engineering проект: ClickHouse, Kafka, Spark, dbt, Airflow и Superset за одну команду

Меня зовут Андрей, я работаю с данными. И так получается, что на реальных проектах у меня никогда не было возможности собрать идеальный, на мой взгл…

data engineeringdata sciencedata miningbig datacryptocurrency
Habr