RU

ИИ-агенты и неприятные правовые последствия, от которых никто не умрёт

Про автономных ИИ-агентов приятно спорить, пока речь идёт о маловероятных вещах вроде превращения мира в скрепки роем взбунтовавшихся ИИ-агентов. По…

правовые последствия ИИправа на кодавторство ИИ-кодаdue diligence ИТ-компанийстоимость стартапальготы по НДС для ИТИИ-претензиидоступ к правосудиюИИ в судопроизводствеhuman-in-the-loop
Habr
RU

Карта автономии AI: как решить, что агенту можно делать без человека

На демо AI-агент уверенно отвечает на вопросы, и кто-то предлагает: «Давайте разрешим ему действовать самому». Но между «предложить возврат» и «отпр…

AI-агентыавтономия AIhuman-in-the-loopуправление рискамиLLMAI governanceконтроль доступаproduction
Habr
RU

Агента нельзя засудить: почему последняя миля ИИ — это человек

TL;DR. Летом 2026 года OpenAI и Anthropic публично признали, что их агенты вышли за пределы тестовой среды и взломали реальные системы. Реакция прав…

ИИ-агентыответственность за ИИhuman-in-the-loopметрологияповеркавалидация ИИAB 316автономные агентыинциденты ИИметодическая погрешность
Habr
RU

LLM предлагает, код исполняет: как разделить reasoning и side effects в production-пайплайне

Если ваша LLM вызывает API и выполняет внешние действия, обычный retry после timeout может создать дубль или оставить систему в неизвестном состояни…

LLMAI-агентыproductionархитектура LLM-системside effectsidempotencyretrystate machinehuman-in-the-loopobservability
Habr
RU

474 712 строк за 35 лет: как мы с LLM и 21 экспертом приводим в порядок справочник автосервиса

НАР РУЧКУ ДВЕРЬ РАСПАШ З ПР С/У Это не битая кодировка и не ошибка миграции. Это настоящее название работы из нашего справочника. За 35 лет в нём на…

LLMClaude Codeнормализация данныхкачество данныхhuman-in-the-loopembeddingsTF-IDF
Habr
RU

OpenAI нажала на газ и почти сразу заговорила о тормозах

Последние несколько дней смотрю, что происходит вокруг OpenAI, и есть во всём этом один моментик, который меня немного напрягает. Не потому что вышл…

OpenAIискусственный интеллектAIAI-агентыGPT-6 Astraбезопасность ИИавтономные агентыhuman-in-the-loopСэм АльтманSkynet
Habr
RU

Закон автоматизации был законом окупаемости

Почему разовую задачу теперь можно автоматизировать — если её дёшево проверить Сорок лет нас учили: автоматизировать надо рутину. Это был не закон а…

ИИ-внедрениезакон автоматизациимиграция данныхhuman-in-the-loopинсорсингпроверяемость
Habr
RU

Нажали Approve на одно действие, а workflow попытался выполнить другое: разбор n8n + MCP + Bitrix24

Почему approved=true не связывает решение человека с фактическим вызовом — и как Action Envelope, свежая проверка исходного состояния и контрольная…

AI-агентыn8nMCPBitrix24human-in-the-loopapprovalworkflowcontrollabilityverification
Habr
RU

Как поддерживать большую базу знаний для RAG и обновлять ее в полуавтоматическом режиме

У большой базы знаний есть неприятное свойство. Она хорошо отвечает на вопросы, которые в нее уже положили, и никак не сообщает о вопросах, которых…

RAGбаза знанийLLMAI-агентысемантический поискдедупликацияhuman-in-the-loopподдержка пользователейуправление знаниямиRetrieval-Augmented Generation
Habr
RU

Скилл, который учится на ошибках AI‑агента, или Как автоматизировать обучение скилла

Что если AI‑агент сможет не просто исправить ошибку, а извлекать из этого урок? В статье рассказываю как автоматизиров…

aiskillAgent SkillsAI-агентытриажсамообучающиеся скиллыhuman-in-the-loopпамять агентаeval-gatesclaude
Habr
RU

Человек между агентом и кнопкой: почему слой подтверждения — это такая сложная инженерия

Мой агент дошёл до состояния, когда я перестал читать письма перед отправкой. Между «агент решил» и «письмо ушло» не было ничего — ни…

llm-агентыpythonsqlitehuman-in-the-loopexactly-onceтестированиемутационное тестированиеконкурентность
Habr
RU

Как дать нейросети управлять рекламой и не разориться: MCP-сервер, где деньги тратит только человек

Полгода назад по сети разошлась история про AI-агента, который слил 441 тысячу за один твит — у модели был доступ к исполнению, и никто не стоял меж…

AI-агентMCPhuman-in-the-loopрекламный бюджетModel Context Protocolбезопасность агентовЯндекс.ДиректGoogle AdsавтоматизацияLLM
Habr
RU

Какую роль должен играть ИИ в психологической помощи? Разбор трёхлетнего исследования Индианского университета

За последние два года появилось больше AI‑сервисов для психологической помощи, чем за предыдущие десять. Одни обещают заменить психот…

искусственный интеллектпсихологическая помощьhuman-in-the-loopHCIAI copilotmental healthко-дизайнUX-исследованиеAI-агентыдизайн AI-систем
Habr
RU

Я хотела дать AI память. Пришлось организовать работу

У меня есть три правила работы с контекстом. Первое правило работы с контекстом - выносить его из чата. Второе правило работы с контекстом…

LLMAI-агентыоркестрация AI-агентовhuman-in-the-loopконтроль качества AIуправление контекстом ии
Habr
RU

Модель не виновата: разбираем 3 громких ИИ-инцидента, которые случились из-за отсутствия архитектуры

Я проектирую системы на LLM, и после каждого громкого ИИ‑инцидента мне прилетает одна и та же ссылка с одним и тем же вопросом:…

LLMархитектура ПОClaudeИИ-агентыотказоустойчивостьвалидация данныхproductionAnthropicstructured outputshuman-in-the-loop
Habr
RU

От 0 до 10 миллионов ИИ-проверок в месяц: как мы продуктивизировали CV в Пятёрочке за 8 месяцев

Статья про то, как CV-сервис вырос с MVP до 10 миллионов проверок фото в месяц и не развалился в проде. 🔧 Это не про «у нас классные модели» и не пр…

computer visionmultimodalyoloresnetvlmcnntriton-inference-serverhuman-in-the-loopkafkaритейл
Habr
RU

От 0 до 10 миллионов ИИ-проверок в месяц: как мы продуктивизировали CV в Пятёрочке за 8 месяцев

Статья про то, как CV-сервис вырос с MVP до 10 миллионов проверок фото в месяц и не развалился в проде. 🔧 Это не про «у нас классные модели» и не пр…

computer visionmultimodalyoloresnetvlmcnntriton-inference-serverhuman-in-the-loopkafkaритейл