RU

Нет записи о покупке — нет покупки? Как реальные данные изменили постановку задачи

Для оценки рекомендательной системы я подготовила 60 000 сессий, но Hit@20 посчитала только по 748. Остальные не стали автоматически промахами: отсу…

рекомендательные системысессионные рекомендациикачество данныхнеявная обратная связьоценка моделейутечка данныхмашинное обучениеcoveo
Habr
RU

Выручка за сентябрь: как AI‑агент получает три разных ответа

Один вопрос к корпоративному хранилищу данных — три разных ответа от ИИ‑агента. Все SQL‑запросы выполняются без ошибок, но …

ИИ-агентыtext-to-SQLSQL-запросыхранилища данныхDWHсемантический слойбизнес-метрикикачество данныханалитика данныхгенерация SQL.
Habr
RU

Как в МТС Premium научились искать ошибки в распределенных данных с помощью собственного фреймворка

Качество данных (DQ) связано с технической зрелостью продукта, но не сводится к ней. В большой системе проблема редко ограничивается одной таблицей…

качество данныхданныеуправление даннымиdatadata driven
Habr
RU

Пять тысяч строк одного списка: собираю франчайзинговую сеть 1С по открытым данным и сверяю с ЕГРЮЛ

У фирмы «1С» есть открытый список 1С-франчайзи: страница, где можно выбрать регион и увидеть всех, кто внедряет «1С:Предприятие» в вашем городе. Это…

открытые данныепарсингpythonЕГРЮЛ1Сфранчайзингкачество данныхсопоставление записейгеокодированиерегулярные выражения
Habr
RU

Почему после успешного внедрения становится тяжелее, хотя ожидали, что станет легче

Уважаемые читатели, этой статьёй я завершаю свой цикл о взаимодействии бизнеса и ИТ. В ней рассказываю о внедрении, которое признали успешным, хотя…

ERPавтоматизация бизнесавнедрение информационных системуправление проектамиуправление выгодамитрудозатратыкачество данныхожидания пользователейприёмка проектаLLM
Хабр — Управление
RU

Сканер 152-ФЗ выписал нарушения Госуслугам, РЖД и Т‑Банку. Разбираем как так вышло

Ошибка линтера стоит пяти минут. Ошибка сканера, который проверяет сайты на соответствие 152-ФЗ, выглядит иначе: «ваш сайт нарушает закон»…

152-ФЗперсональные данныеРоскомнадзорложные срабатыванияPlaywrightвеб-сканеркачество данныхантибот-защитатестированиеPython
Habr
RU

Боремся за качество данных: практический подход с Airflow

Качество данных часто становится заметным только в тот момент, когда ошибка уже попала в отчёт, модель или бизнес-процесс. Исправлять последствия до…

bidata analysispythonData Qualityкачество данныхуправление даннымиочистка данныханалитика данныхавтоматизация проверок
Habr
RU

Формирование атрибутивного состава в нормализации НСИ: незаменимый этап, от которого зависит качество данных

Формирование атрибутивного состава объекта нормативно-справочной информации (НСИ) — это этап, на котором закладывается основа качества данных: ошибо…

Аттрибутынсинси и интеграцияmdm-системанормализация данныхметодика оценкикачество данных
Habr
RU

Data-driven или data-hopeful: зачем аналитике становиться системой

В команде может быть сильный аналитик, десятки дашбордов и привычка принимать решения на данных, но это еще не значит, что аналитика в команде зрела…

матрица зрелости аналитикипродуктовая аналитикакачество данныханалитические процессыAI в аналитикеаналитика данныханалитика проектадерево метрикdata governanceплан развития
Habr
RU

Парсер, который не падает, а врёт: шесть случаев из моей практики

За полтора месяца я собрал браузером около двухсот карточек товаров, счётчики просмотров с одиннадцати площадок и содержимое пары десятков объявлени…

парсингскрапингplaywrightheadless-браузеррегулярные выражениясбор данныхкачество данныхотладкаrequestspython
Habr
RU

474 712 строк за 35 лет: как мы с LLM и 21 экспертом приводим в порядок справочник автосервиса

НАР РУЧКУ ДВЕРЬ РАСПАШ З ПР С/У Это не битая кодировка и не ошибка миграции. Это настоящее название работы из нашего справочника. За 35 лет в нём на…

LLMClaude Codeнормализация данныхкачество данныхhuman-in-the-loopembeddingsTF-IDF
Habr
RU

Данные построчно правильные, а итог неверный: ошибки JOIN и гранулярности в аналитике

Ошибки в аналитических витринах часто скрываются за корректным числом строк и успешно выполненным SQL‑запросом. Разберём, как неправи…

SQLбазы данныханалитика данныхJOINPostgreSQLвитрины данныхкачество данныхETLDWHData Warehouse
Habr
RU

Как мы измеряли рекламные обещания регулярками и почему первая выгрузка соврала вдвое

Нам понадобились свои данные о том, как устроены страницы, продающие франшизы. Не мнение, не подборка скриншотов, а числа, которые можно пересчитать…

регулярные выраженияпарсингразметка данныхкачество данныхpythonвыборкаконтент-анализошибки разметки
Habr
RU

Как проверять аналитический отчёт, если красивого графика недостаточно

В одном из проектов я с нуля собирал BI-аналитику платных медицинских услуг. В отчёте нужно было показывать динамику доходов и помогать находить рас…

проверка аналитических отчётовBIPower BIDAXкачество данныханалитическая витринаETLприёмочное тестирование
Habr
RU

От исходных данных до аналитической витрины: что происходит между ними

В одном из проектов мне нужно было с нуля собрать аналитику платных медицинских услуг в крупной медицинской организации. На выходе должен был появит…

аналитическая витринаETLDWHBIмодель данныхкачество данныхPower BIdata lineage
Habr
RU

Как не получить лгущий дашборд: 7 ошибок в SQL‑агрегациях

SQL-запрос выполнился без ошибок, дашборд обновился, цифры выглядят правдоподобно — и всё же выручка внезапно выросла на треть. Причина может скрыва…

аналитика данныхагрегацииSQLбазы данныхкачество данныхошибки в данныххранилища данныхзапросы SQL
Habr
RU

Словарь метрик: документ, который стоит создать раньше первого дашборда

На старте аналитического проекта список показателей обычно уже существует. Он находится в техническом задании, таблице заказчика, старых отчётах или…

словарь метриканалитика данныхBIсемантический слойmetrics as codedata contractsуправление метрикамикачество данныхдашбордыпродуктовая аналитика
Habr
RU

Почему одинаковые показатели в разных отчётах не совпадают

Два отчёта показывают один показатель за один период. Название одинаковое, подразделение выбрано одно и то же, но значения различаются. В этот момен…

аналитика данныхBIметрикикачество данныхсемантический слойdata lineagedata contractsсверка отчётоввременные данныедашборды
Habr
RU

Рынок «лимонов» в мире данных: почему современные исследования теряют контакт с реальностью

Размышления, вдохновленные статьей Марка Хау «Towards ‘augmented sociology’? A practice-oriented framework for using large language model-powered ch…

качество данныхсоциологиярынок лимоновметодология исследованийопросывыборкаux исследованияdata analysisb2a2cдоказательная наука
Habr
RU

Почему датасет без единой ошибки может быть плохим датасетом

Представьте себе грустного школьника, которому приходится решать тысячи задач по математике. Учебник в целом хороший, но примерно в одном проценте с…

машинное обучениеискусственный интеллектнейронные сетикачество данныхдатасетразметка данныхпереобучениерегуляризацияselectel
Habr
RU

Как превратить бизнес-вопрос в набор показателей

Бизнес-вопрос редко звучит как готовая аналитическая задача. Руководитель может спросить: «Какие подразделения требуют внимания?», «Пользуются ли пр…

аналитика данныхбизнес-вопроспоказателиметрикиKPIBIпродуктовая аналитикадашбордыкачество данных
Habr
RU

ML‑датасет для Data Scientist: практический гайд по проверке качества данных перед обучением модели

Даже хороший алгоритм не спасёт модель, если признаки приходят с нарушенной семантикой или содержат информацию из будущего. Одна…

машинное обучениеподготовка данныхдатасеткачество данныхML-модельData Scienceвалидация данныхобучение моделейMLOpsPython
Habr
RU

Аналитика начинается не с дашборда: как понять, какое решение должен поддерживать отчёт

Запрос на дашборд часто начинается со списка показателей и заканчивается красивым отчётом, по которому непонятно, что делать дальше. На примере BI-д…

аналитика данныхBIдашбордыбизнес-аналитикатребованиявизуализация данныхкачество данныхуправленческая отчётность
Habr
RU

Почему кросс-постинг в соцсети оказался задачей про state, idempotency и битую кириллицу

В какой-то момент у меня появилась задача от маркетинга автоматизировать кросс-постинг статей в соц.сети и, в принципе, задача довольно понятная и з…

aiавтоматизация процессовсоциальные сетиworkflowapidevopsинтеграция сервисовкачество данныхunicodegoogle docs
Habr
RU

Цифры не сходятся: алгоритм действий, который поможет находить расхождения в отчетах

Сообщение в личку в 18:40: «Слушай, а почему у тебя в выгрузке 11 903 заказа, а на дашборде 12 480? Завтра в 11 показываем отчет». Дальше начинается…

качество данныханалитикаанализаналитика данныхджуниор аналитиккарьера ит-специалистакарьера аналитикакарьера аналитика данныхкарьера аналитиковметрики
Habr
RU

Я собрал конвейер аналитики банков на LLM-агентах. Показываю, где он остановил 7 из 31

У проекта есть работающий сайт: ortant.net . На нём 24 принятых исследования, десять досье банков, карта покрытия данных и раздел с методикой. Иссле…

llmии-агентыpostgresqlпарсингбанкикачество данных
Habr
RU

От «грязных» справочников к золотым записям: как AI/ML спасает НСИ от хаоса

Сегодня большинство компаний сталкиваются с серьезной проблемой: данные в их информационных системах постоянно деградируют, а традиционные подходы к…

интеграцияискусственный интеллекткачество данныхdatareon
Habr
RU

Зрелость управления данными: предлагаю простую методику оценки

Многие компании собирают данные, строят отчёты и внедряют аналитические системы, но не всегда понимают, насколько эффективно всё это работает и заче…

управление даннымизрелость управления даннымиData ManagementData Governanceкачество данныхоценка зрелостиDAMA-DMBOKбизнес-аналитикакультура данныхскрининг
Habr
RU

LLM-судье нельзя верить на слово: как построить надёжный гейт и проверить сами тесты

Как перестать доверять LLM-судье на слово и построить безопасную двухконтурную систему оценки? Внутри статьи: Архитектурный паттерн сдерживания: поч…

LLMLLM-as-a-judgeLLMOpsPythonтестированиевалидация моделейархитектура системкаппа Коэнакачество данных
Habr