RU

Динамические квоты и лимиты: как не завалить очередь в highload

Представьте: ваш сервис Y генерирует 10 000 событий в секунду, а сервис X может проглотить только 500. И при этом нельзя потерять ни одного события, а…

highloadочереди сообщенийkafkabackpressureдинамические квотысистемный анализархитектура highload
Habr
RU

Kafka, таксономии и удаление событий: как исключить обработку неактуальных сообщений

В рамках задачи по обработке XBRL-таксономий возникло требование: если таксономия удалена до обработки событий расчёта кэша, эти события не должны при…

kafkaspring bootSpring Kafkajavaмикросервисыtombstone objectsCompacted topiclog compactionconsumerидемпотентность
Habr
RU

ClickHouse для больших данных: полный гайд по интеграции с NoSQL‑экосистемой

Когда классические SQL‑базы падают под аналитической нагрузкой, а Hadoop‑кластер напоминает чемодан без ручки — пора искать новое …

clickhousenosqlbig dataаналитика данныхkafkaolapархитектура данных
Habr
RU

Автоматизация тестирования на Go: стратегия и реализация с нуля

В микросервисной архитектуре ошибка — это не просто баг в отдельном сервисе. Это сорванный релиз, нестабильные интеграции, потерянные заказы и ча…

golangkafkamockpostgresqlавтоматизация тестирования
Habr
RU

Обзор Агредатор

На связи Сергей Скирдин, технический директор компании «Белый код». Поставил себе цель — сделать обзоры на шины данных из реестра отечественного ПО. С…

шина данныхкорпоративная шина данныхинтеграционная платформаконнекторыesbenterprise service busrabbitmqkafkaruby
Habr
RU

Про 11 типичных ошибок при проектировании интеграции с помощью Kafka на примерах

Всем привет! На связи Антон Воробьёв — архитектор в Альфа-Банке. Некоторое время назад у нас появился нативный порт C-клиента librdkafka, который сдел…

kafkaпроблемырешенияapachброкер сообщений
Habr