RU

HTTP-запрос закончился, а LLM ещё работает: как проектировать AI-задачи на Go

Обычный Go backend привык отменять работу вместе с HTTP-запросом. Но если пользователь закрыл вкладку посреди анализа документа, это ещё не означает…

GoGolangLLMcontext.ContextPostgreSQLbackground jobsidempotencydistributed systemsAI SaaSbackend architecture.
Habr
RU

Код от AI прошёл демо. Что я дописываю в задачу, чтобы он пережил пятый релиз

AI за вечер собирает интерфейс, backend и рабочий сценарий — и демо проходит. Проблемы начинаются к пятому релизу: новый провайдер требует правок в…

вайбкодингAIархитектураLLMпроектированиеPostgreSQLидемпотентность
Habr
RU

Confidence ≠ Permission: почему я не разрешаю LLM самостоятельно принимать решения

LLM может быть уверена в своём ответе, но это ещё не означает, что системе разрешено выполнять действие. В AI Career I…

LLMискусственный интеллектAI-агентыTelegramPythonархитектураdecision layerавтоматизацияpolicyбезопасность
Habr
RU

[Перевод] Interpretable Context Methodology (Методология интерпретируемого контекста): структура директорий как архитектура агента

Привет, Хабр! Это не перевод, скорее выжимка из статьи со схожим названием. Очень советую ознакомиться, если подход заинтересует. Текущий подход к о…

LLMAIskill.mdmethodologydrypipeline
Habr
RU

Как я собрала на n8n SEO-агента для трех сайтов: данные, правила и немного нейросети

После просадки органики я устала вручную сводить Screaming Frog, Метрику и Вебмастер и собрала SEO-агента на n8n. Он хранит историю страниц, очищает…

n8nSEOавтоматизация SEOSEO-аналитикавеб-аналитикаScreaming FrogЯндекс МетрикаЯндекс ВебмастерLLMAI-агенты
Habr
RU

Модели — это не лёгкое дешёвое ИТ для всех, а новый уровень кровавого энтерпрайза

За 2 года мир перевернулся так, что многим кажется, что разработчики больше не нужны вообще. Типа, порог входа в IT исчез, а профессия разработчика…

искусственный интеллектLLMразработка ПОархитектура ПОopen sourceAnthropicCloudflareрынок труда
Habr
RU

Не начинать с LangChain: как спроектировать корпоративную GenAI платформу до реализации

Корпоративную GenAI платформу легко начать с выбора LLM, LangChain, vector database или Kubernetes. Но до этого полезнее ответить на другие вопросы:…

GenAIархитектура ПОEnterprise AIC4ADRRAGLLMModular MonolithpgvectorRabbitMQ
Habr
RU

LLM предлагает, код исполняет: как разделить reasoning и side effects в production-пайплайне

Если ваша LLM вызывает API и выполняет внешние действия, обычный retry после timeout может создать дубль или оставить систему в неизвестном состояни…

LLMAI-агентыproductionархитектура LLM-системside effectsidempotencyretrystate machinehuman-in-the-loopobservability
Habr
RU

Тупая модель с жёстким циклом проверки бьёт умную модель без него

Недавно читал тут статью про «Cost per Task» и про то, что самая дешёвая модель в линейке внезапно обгоняет самую умную по цене…

LLMагентыверификациялокальные моделиагентное программирование
Habr
RU

ИИ-агенту запретили запись в CRM. Но CRM всё равно изменилась

Почему ограничение полномочий модели ещё не означает, что AI-система действительно стала read-only. Разбираем runtime control на примере n8n + DeepS…

AI-агентыбезопасность ИИLLMn8nMCPAI governanceавтоматизацияархитектура ai-систем
Habr
RU

Почему юридический AI‑сервис нельзя строить как обычный чат: проектируем case‑first SaaS на Go

Несколько месяцев назад мне понадобилось заключить договор с Леноблводоканалом. Казалось бы, обычная бюрократическая задача: отправил документы, пол…

GoGolangLLMAISaaSRAGPostgreSQLархитектураюридический AIобработка документов
Habr
RU

От «магии» к инженерии: 9 ошибок работы с контекстом при внедрении AI‑агентов в процессы

AI‑агенты часто теряют качество не из‑за ограничений LLM, а из‑за неправильно организованного контекста. В статье разберём типовые ош…

искусственный интеллектAI-агентыLLMбольшие языковые моделипромпт-инжинирингконтекстRAGавтоматизация процессовкорпоративные знанияархитектура знаний
Habr
RU

Архитектура важнее модели: как меняется обработка документов в эпоху ИИ

— В этом проекте нам надо хорошо распознавать документы. — А что значит «хорошо»? — Сейчас же везде ИИ. Я загружаю документ в чат, и он мне всё прав…

LLMOCRобработка документовискусственный интеллектмашинное обучениеархитектура систем
Habr
RU

Атаки на агентные системы и защита данных

ИИ‑агенты получают доступ к данным и инструментам, но вместе с автономностью появляются новые риски. Разбираем, как работают ата…

ИИ-агентыискусственный интеллектбезопасность ИИLLMбольшие языковые моделипромпт-инъекцииMCPмашинное обучениезащита данныхархитектура ИИ-систем
Habr
RU

От десятка подписок к единому шлюзу LiteLLM: что пошло не по плану

Привет! Я Владимир Мокроусов, сисадмин в группе компаний «Синтека». Мы создаем софт для строительной отрасли и активно используем в работе ИИ-модели…

LiteLLMLLMAnthropicOpenAIClaudeCLIProxyAPILLM gatewayAPI gatewayсистемное администрированиеDevOps
Habr
RU

Мы выдали командам ИИ‑инструменты и получили нулевой эффект

Привет, Хабр! Меня зовут Евгений Симонович, я работаю в Ви.Tech. Расскажу одну историю про то, как мы набивали шишки. Мы начали внедр…

внедрение ИИLLMtime-to-marketлиды компетенцииPDLCMCPAI-агентыcycle timeкомпетенцииecom
Habr
RU

RAG в медицинской аналитике: как построить управляемый контур вместо очередного чат‑бота

Медицинская организация одновременно работает с электронными медицинскими картами, результатами исследований, врачебными заключениями, клиническими…

RAGмедицинская аналитикаискусственный интеллектбольшие языковые моделиLLMBIDWHмедицинские данныеархитектура системуправление рисками
Habr
RU

Квантизация LLM: как запихнуть 70B модель в свою видюху

Ну что, думаете что для запуска LLaMA 3 70B вам нужна серверная стойка за лярд рублей? Поздравляю, вас обманули маркетологи GPU-вендоров. Модели с с…

квантизацияLLMоптимизациявеса моделейmoe архитектуратрансформеры
Habr
RU

Что настоящего осталось в программисте?

А вот реально, что настоящего осталось в программисте когда вокруг llm ? Где его суть и индивидуальность, где теперь его ценность ? Читать далее

LLMискусственный интеллекткарьера программистанейросетиценность разработчикапостановка задачархитектура ПОAI-агентыбудущее ITопыт
Habr
RU

Как дать нейросети управлять рекламой и не разориться: MCP-сервер, где деньги тратит только человек

Полгода назад по сети разошлась история про AI-агента, который слил 441 тысячу за один твит — у модели был доступ к исполнению, и никто не стоял меж…

AI-агентMCPhuman-in-the-loopрекламный бюджетModel Context Protocolбезопасность агентовЯндекс.ДиректGoogle AdsавтоматизацияLLM
Habr
RU

Топ вопросов с NLP собеседований: архитектуры LLM, инференс и оптимизация

На NLP/LLM собеседованиях все чаще проверяют не только знание трансформеров, но и понимание того, как устроены современные GPT-like модели: почему б…

LLMархитектура LLMинференс LLMускорение LLMоптимизация LLMTransformerFlashAttentionKV-cacheквантизация LLMMixture of Experts
Habr
RU

Один интерфейс — девять LLM-провайдеров: как мы подружили Kimi K3, GLM-5.2, Claude и Ollama в одном терминальном агенте

Привет, Хабр! Я делаю execai — терминальный AI-агент на Go (bubbletea), в духе Claude Code. Он читает файлы, гоняет shell-команды, ходит в kubernete…

execaiGoLLMKimi K3GLM-5.2OllamaAI-агенттерминалbubbleteaSSE
Habr
RU

Shorts Maker v2: как я превратил AI-генератор видео в возобновляемый production pipeline на Python

Как превратить работающий AI-прототип в надёжный production pipeline? Разбираю архитектуру Shorts Maker v2 — генератора коротких видео на Python с D…

PythonAIгенеративный ИИгенерация видеоShortsReelsClean ArchitectureDDDFFmpegLLM
Habr
RU

Как перейти в ИТ и создать мобильное приложение с ИИ: история разработчика «ЧитКита»

Наталья Новикова пришла в разработку из ветеринарии и начинала как самоучка — с курсов по Java. В рамках дипломно…

искусственный интеллектразработка мобильных приложенийстартапFlutterGoPythonRAGLLMмашинное обучениеразработка IT-продукта
Habr