RU

От struct к компиляции под схему: ускоряем RowBinary-декодер на Python

Я автор aiochlite — асинхронного клиента ClickHouse на aiohttp . Раньше мой декодер RowBinary читал каждое числовое поле отдельно. Если брать 200 ты…

pythonclickhousestructrowbinaryоптимизацияпроизводительностьбенчмаркcpythonasyncioбинарные форматы
Habr
RU

Как за 5 недель построить рекомендательную систему в TravelTech: Kafka и MongoDB вместо Feature Store

Привет! Меня зовут Кристина, я MLOps-инженер в Туту. Занимаюсь тем, что помогаю рекомендательным системам добраться до прода со всеми компромиссами,…

рекомендательные системыmlopskafkaclickhousefeature storefastapicatboosttravel techmongodb
Habr
RU

От 12 часов к 30 минутам: как мы join’им миллиарды товарных движений в ClickHouse

Всем привет! Меня зовут Муса. Наша команда занимается витринами данных по товарному учёту. Каждый день мы доставляем около 10 млрд записей…

highloadclickhousebackendsystem-designbigdataбазы данныsqlolapархитектура данныхozon tech
Habr
RU

ClickHouse: сценарии, сильные стороны, лучшие практики работы в 2026 году

ClickHouse — один из самых востребованных инструментов для хранения и анализа больших объемов данных, обеспечивающий высокую производительность и на…

vk cloudclickhouseolapколоночное хранениебольшие данныеdata platformлогированиеметрикиархитектура данныхbest practices
Habr
RU

ClickHouse: сценарии, сильные стороны, лучшие практики работы в 2026 году

ClickHouse — один из самых востребованных инструментов для хранения и анализа больших объемов данных, обеспечивающий высокую производительность и на…

vk cloudclickhouseolapколоночное хранениебольшие данныеdata platformлогированиеметрикиархитектура данныхbest practices
Habr
RU

Пока все хоронили пайплайны, ClickHouse достраивал слои

«Отдельные базы больше не нужны», «конец пайплайнов» - каждую неделю кто-то крупный со сцены хоронит то, что ты вчера поставил в прод. ClickHouse по…

clickhousepostgresqlClickstackolaplakehousedata engineeringobservabilityколоночная субдClickHouse AgentsOpen House 2026
Habr
RU

Databricks обещал конец баз данных. Читаем мелкий шрифт

Пару дней назад я собрал сводку новостей по lakehouse и закончил её обещанием: разберу каждый громкий анонс по отдельности. Выполняю - и начинаю с с…

Data Lakehousedatabricksclickhouseapachereydenlakebasedelta lakeducklakepostgresхранилища данных
Habr
RU

Как мы ушли от ETL к CDC: выбираем архитектуру real-time аналитики на PostgreSQL, Kafka и ClickHouse. Часть 1

Все началось с просьбы сделать отчеты в реальном времени. На первый взгляд задача выглядела простой, но довольно быстро выяснилось, что существующая…

postgresqlclickhousekafkadebeziumcdckubernetesetlreal-time аналитикаkafka connectdevops
Habr
RU

Реалтайм-аналитика «без боли»: миграция из PostgreSQL и Kafka в ClickHouse и визуализация в Superset

Когда у вас появляется продукт с активными процессами и большим количеством пользователей, объём данных начинает расти быстрее, чем ожидалось. На ст…

clickhousekafkapostgresqlsupersetpeerdbkafkaconnectmagnit techмагнитвизуализация данных
Habr
RU

Технический и продуктовый мониторинг за кастомизациями Битрикс24: как настроить и на что смотреть

Рассказываем и показываем, как можно использовать мониторинг за кастомизациями Битрикс24. Для работы используем телеметрическую инфраструктуру на ба…

open telemetryotel collectorobservabilityмониторингgrafanaclickhouseтелеметрияпродуктовая аналитикабитрикс24технические метрики
Habr
RU

Как мы собрали систему сетевого мониторинга безопасности для ISP: Zeek, Suricata, OpenSearch и ClickHouse

Мы построили собственную систему мониторинга сетевой безопасности для интернет-провайдера. Она в реальном времени анализирует трафик, помогает видет…

анализ трафикаzeekopensearchclickhouse
Habr
RU

OTel Collector в кастомизации Битрикс24: подключаем Observability

Рассказываем про инструмент для наблюдения за кастомизациями Битрикс24 — телеметрическую инфраструктуру на базе OpenTelemetry Collector. Для проекто…

open telemetryмониторингobservabilityлогированиетрассировкаgrafanaclickhousedockerdevopsбитрикс24
Habr
RU

DWH в 2026: четыре зоны вместо Inmon, Kimball и Data Vault 2.0

Когда инженер слышит «нам нужно хранилище данных», задача редко звучит однозначно. Кто-то задыхается на боевой OLTP-базе под аналитической нагрузкой…

dwhdata warehouseclickhouseapache icebergtrinolakehousedata engineeringархитектура данныхdata vaultdba
Habr
RU

Код как документация: как мы строим самодокументируемые витрины данных в Почте Mail

В аналитике больших данных есть старая проблема: код ETL-витрин живет своей жизнью, а документация — своей. Изменяешь логику, забываешь обновить опи…

big dataapache sparkairflowclickhousesqlдокументацияdwhmetadatadbtvk tech
Habr
RU

Код как документация: как мы строим самодокументируемые витрины данных в Почте Mail

В аналитике больших данных есть старая проблема: код ETL-витрин живет своей жизнью, а документация — своей. Изменяешь логику, забываешь обновить опи…

big dataapache sparkairflowclickhousesqlдокументацияdwhmetadatadbtvk tech
Habr
RU

ClickHouse для больших данных: полный гайд по интеграции с NoSQL‑экосистемой

Когда классические SQL‑базы падают под аналитической нагрузкой, а Hadoop‑кластер напоминает чемодан без ручки — пора искать ново…

clickhousenosqlbig dataаналитика данныхkafkaolapархитектура данных