RU

Сверка таблиц в PostgreSQL, или О том, нужны ли для этого специальные утилиты

Лет десять назад я делал инструмент сверки таблиц для мультимастера — крайне неэффективным способом: брал снапшот и под ним просто шёл по таблице, м…

postgresqlсравнение таблицконсистентность данныхлогическая репликацияpg_comparatorpgcompareacepgedgeхэшированиебенчмарк
Habr
RU

Prom++ против Prometheus: проверяем 7,8 раза экономии памяти на своём стенде

Для моих задач Prometheus ел слишком много памяти, и я стал искать альтернативу. Нашёл Deckhouse Prom++, у которого заявлена экономия памяти в 7,8 р…

prometheusprom++мониторингбенчмаркpromqlk3sremote writetsdbdeckhouseоптимизация памяти
Habr
RU

Какую MoE-модель выбрать для локального кодинга на GTX 1080 Ti: перплексия против реальной скорости

В одной из своих статей , посвященной тестированию возможности запуска локальной модели на домашнем ПК, с не самой сильной и новой видеокартой, я по…

искусственный интеллектисследованиеgtx 1080видеокартыстарое компьютерное железоaiбенчмарк
Habr
RU

Период полураспада бенчмарка ИИ сократился вдвое: 19 месяцев вместо 38

В мае я подал OenoBench, винный бенчмарк для языковых моделей, на NeurIPS. В дискуссии с ревьюерами всплыл вопрос, на который ни у меня, ни у них не…

бенчмаркllmevaluationанализ выживаемостиKaplan-Meierнасыщение бенчмарковдатасетвоспроизводимостьOenoBench
Habr
RU

Как скормить нейросети большой проект и не скормить лишнего: что я узнал, пока агенты читали мой код

Год назад я копировал файлы в чат с нейросетью по одному. Сейчас агенты читают проект сами через MCP‑сервер, и месяц наблюдений за&nb…

нейросетиLLMMCPClaude CodeагентыконтекстRepomixopen sourceбенчмаркC#
Habr
RU

SSD как кэш, HDD как постоянное хранилище: экспериментируем с кэшированием в bcachefs

Вы когда-нибудь задумывались над смыслом названия этой файловой системы? А между тем ключевая фича, с которой все начиналось, — это как раз кэширова…

bcachefsкэшированиефайловые системыrocksdbхранение данныхlinuxбенчмаркwriteback
Habr
RU

Почему O(1) не гарантирует высокую скорость: четыре структуры данных для графа signal – effect

Сигнал изменился - как найти связанные эффекты и удалить известную связь? Сравниваю четыре структуры графа signal - effect по стоимости операций и п…

реактивностьsignaleffectграф зависимостейструктуры данныхинтрузивный списокпроизводительность JavaScriptV8бенчмаркo1
Habr
RU

MWS AI Vision Bench: что изменилось за год и зачем мы добавляем антифрод

Год назад мы выложили в открытый доступ MWS AI Vision Bench — бенчмарк для оценки мультимодальных моделей на русскоязычных документах. За это время…

мультимодальные моделиVLMOCRVQAanti-fraudдокументыбенчмаркmws aiopen-sourceдипфейки
Habr
RU

MWS AI Vision Bench: что изменилось за год и зачем мы добавляем антифрод

Год назад мы выложили в открытый доступ MWS AI Vision Bench — бенчмарк для оценки мультимодальных моделей на русскоязычных документах. За это время…

мультимодальные моделиVLMOCRVQAanti-fraudдокументыбенчмаркmws aiopen-sourceдипфейки
Habr
RU

Приниматоры решений: бенчмарк на русском для Jev-style моделей

Последние пару лет мы довольно странно используем большие языковые модели. Из-за их умения делать всё мы пытаемся решить с их помощью всё — роутинг…

jevfridadecision modelsLLMагентыбольшие языковые моделибенчмарктестированиеbenchmark
Habr
RU

Дал девяти популярным скиллам для Claude Code плацебо: два лучше пустышки, один хуже

Я сравнил девять самых популярных скиллов для Claude Code с пустышкой: нейтральным текстом той же длины, без единого совета, как работать. Агент 450…

Claude CodeскиллыИИ-агентыплацебобенчмаркLLMSWE-benchopen sourceстатистикаOpus
Habr
RU

Корпуса персональных данных: 56 тысяч размеченных сущностей и ни одного вызова инструмента

Детектор нашёл телефон. Шлюз его скрыл. Агент вызвал CRM и не нашёл клиента. Проверка пройдена, задача провалена. Как так получается и почему тысячи…

бенчмаркперсональные данныемаскирование данныхLLMИИ-агентыNERMASSIVEPII-Benchвызов инструментовpii
Habr
RU

Маскирование ПДн для LLM: метрика, которую не считает никто, и шесть шлюзов против живого агента

Мы прогнали шесть шлюзов маскирования ПДн через живого агента с инструментами, чтобы измерить то, чего не мерят существующие бенчмарки: возвращается…

маскирование персональных данныхPIILLMвызов инструментовtool calling152-ФЗобезличиваниебенчмаркNERPresidio
Habr
RU

Правда о Coil в Jetpack Compose: измеряем реальный оверхед SubcomposeAsyncImage

«SubcomposeAsyncImage в списках использовать нежелательно, он тормозит скролл» — так написано в документации популярной библиотеки Coil. Действитель…

androidkotlinjetpack composecoilsubcomposemacrobenchmarkпроизводительностьоптимизациябенчмарк
Habr
RU

Blackview Gamibook 16 — самый честный обзор на ноутбук за 160к с RTX5060

В современных ноутбуках меня пугает только одно: в моделях дешевле 1.000$ чаще всего дискретного GPU вообще нет и роль видеоускорителя выполняет уре…

monobogdan_ништячкиblackviewноутбукgamibookлэптопrtx5060обзорбенчмарк
Habr
RU

Как я собрал винный бенчмарк на 3 266 вопросов руками LLM и где они меня подвели

Полгода назад я решил измерить, сколько языковые модели на самом деле знают про вино. Вышел бенчмарк OenoBench: 38 104 факта из открытых источников,…

LLMбенчмаркдатасетevaluationмультиагентные-системыClaude-CodeвиноскрапингOpenRouterвоспроизводимость
Habr
RU

GenAI Pretest: как в Авито научили ИИ предсказывать «бизнесовое» качество ТВ-рекламы ещё до съёмок

Представьте: ролика ещё нет. Есть только его прототип, который сделан с помощью ИИ, а вы уже знаете, насколько он будет хорош для бизнеса, и знаете…

искусственный интеллектмаркетингкреативыаналитикаавитобенчмарк
Habr
RU

Больше чем WER: RESON — открытый инструмент и датасет для оценки ASR в телефонном канале

Привет, Хабр! Меня зовут Александр Шевченко, я техлид команды ASR ML (направление ASR/TTS-платформы Audiogram ) в MWS AI. Мы занимаемся совершенство…

ASRspeech to textdatasetrussianbenchmarktelephoneбенчмаркopensourceNLPискусственный интеллект
Habr
RU

Больше чем WER: RESON — открытый инструмент и датасет для оценки ASR в телефонном канале

Привет, Хабр! Меня зовут Александр Шевченко, я техлид команды ASR ML (направление ASR/TTS-платформы Audiogram ) в MWS AI. Мы занимаемся совершенство…

ASRspeech to textdatasetrussianbenchmarktelephoneбенчмаркopensourceNLPискусственный интеллект
Habr
RU

Асимметрия как методологический и инструментальный принцип тестирования моделей

Цель статьи – показать практический потенциал идеи асимметрии: она возникла как логико-риторическое правило, а сегодня стала реальным методологическ…

тестирование моделейоценка LLMбенчмаркконтрпримерАсимметрияПодтверждение и опровержение
Habr
RU

«Переходи на Spark», говорили они. Сравнил pandas, Polars, DuckDB и PySpark на слабой машине

Сценарий знакомый: открываешь в pandas файл побольше, ноутбук задумывается, и через минуту всё падает с MemoryError. Следом обычно звучит совет: для…

pandaspolarsduckdbpysparkбенчмарканализ данныхобработка данныхparquetpythonпроизводительность
Habr
RU

Jev и обычные LLM: сравниваем качество, скорость и стоимость

Сравнил Jev и обычные LLM на трёх задачах: определение спама, выбор категории комментария и оценка негатива. Проверил качество ответов, скорость и с…

JevTypeSafeLLMOpenRouterPythonбенчмаркклассификация текстаанализ тональности
Habr
RU

Бенчмарк качества англо-русского перевода для ведущих западных и китайских LLM

Сто ловушек в одном рассказе, LLM-судья с ключом ответов и балл, который считает код. Так устроен бенчмарк художественного перевода, который теперь…

ruvds_статьипереводмашинный переводLLMбольшие языковые моделиоценка качествабенчмаркNLPхудожественный перевод
Habr
RU

Питон не проглотит суслика: почему Go и Python обречены делить один прод

Гипотеза, с которой я начинала, звучала максимально прямолинейно: Go компилируется в машинный код, питон интерпретируется, значит Go быстрее примерн…

pythongogolangnumpyopenblasasyncioгорутиныGILcgoбенчмарк
Habr
RU

Почему нельзя просто загрузить историю с фитнес-браслета в LLM и попросить оценить здоровье

Исследователи из Meta и KAIST решили проверить очевидный на первый взгляд вопрос: если дать большой языковой модели реальную историю измерений с фит…

искусственный интеллектLLMбенчмаркносимые устройствафитнес-трекерыздоровьемашинное обучениеWearableQAобработка данных
Habr