RU

Комнатный RAG: бесплатный ИИ-помощник-консультант по содержимому сайта

Можно ли превратить обычный сайт небольшой компании в ИИ-консультанта и уложиться в бесплатные квоты хостинга? На примере показываем, как собрали та…

RAGИИ-помощникчат-ботCloudflareWorkers AILLMбаза знанийprompt injection
Habr
RU

ИИ в DevOps или как мы слепо доверяем сгенерированным манифестам

ИИ может за секунды сгенерировать аккуратный Kubernetes‑манифест, который пройдет валидацию и даже успешно запустится в кластере — а&…

KubernetesDevOpsискусственный интеллектLLMKubernetes-манифестыYAMLбезопасность контейнероввалидация конфигурацийOPAkubeconform
Habr
RU

Приниматоры решений: бенчмарк на русском для Jev-style моделей

Последние пару лет мы довольно странно используем большие языковые модели. Из-за их умения делать всё мы пытаемся решить с их помощью всё — роутинг…

jevfridadecision modelsLLMагентыбольшие языковые моделибенчмарктестированиеbenchmark
Habr
RU

Decision-модели изнутри: как устроены Jev, Clef, pplx-decider, Strands Decider, Laya и GLiDE

15 сентября TypeSafe выпустила Jev и назвала её первой моделью класса System One. Jev получает состояние системы и набор типизированных вопросов, а…

decision-моделиJevClefPerplexityLLMИИ-агентыкалибровкаSystem OneCloudflareaws
Habr
RU

MWS Cloud Platform глазами новичка: что здесь есть и как все устроено

Облачные платформы, как правило, выглядят одинаково пугающе: открываешь консоль, а там десятки сервисов, виртуальные сети, Kubernetes, базы данных,…

MWS Cloud PlatformMWSоблачные сервисыоблачная платформаGPT Model HubLLMAPIискусственный интеллектVS CodeCline
Habr
RU

[Перевод] Interpretable Context Methodology (Методология интерпретируемого контекста): структура директорий как архитектура агента

Привет, Хабр! Это не перевод, скорее выжимка из статьи со схожим названием. Очень советую ознакомиться, если подход заинтересует. Текущий подход к о…

LLMAIskill.mdmethodologydrypipeline
Habr
RU

LLM работает не на одной видеокарте: анатомия AI-инфраструктуры 2026

Почему 70B-модель может поместиться в память и всё равно тормозить под нагрузкой? Разбираем AI-инфраструктуру 2026 года по слоям: HBM и KV-кеш, pref…

LLMGPUAI-инфраструктураNVIDIANVLinkKV-кешинференсMixture of ExpertsDeepSeek-V3HB
Habr
RU

Зачем Авито нужна своя Inference-платформа для ML/LLM-сервисов: PaaS vs отдельное решение

Привет, Хабр! Меня зовут Антон Алексеев , я ML Ops-инженер в Авито . В этой статье я разберу, почему существующий PaaS — отличный инструмент для веб…

inferencemlopsKServeLLMKubernetesPaaSML-платформаopen sourceML-инфраструктурасезон код будущего
Habr
RU

Модели — это не лёгкое дешёвое ИТ для всех, а новый уровень кровавого энтерпрайза

За 2 года мир перевернулся так, что многим кажется, что разработчики больше не нужны вообще. Типа, порог входа в IT исчез, а профессия разработчика…

искусственный интеллектLLMразработка ПОархитектура ПОopen sourceAnthropicCloudflareрынок труда
Habr
RU

Agent DevTools: локальная инфраструктура для ИИ-агента, которой достаточно только базового Python

Agent DevTools полностью бесплатен, устанавливается одной строкой и для своей работы требует только стандартной установки языка Python.  Ему не…

Agent DevToolsAI-агентыAI-assisted developmentPythonтестированиеselective testingпамять проектаконтекст проектаdeveloper toolsLLM
Habr
RU

Год назад мы обсуждали, смогут ли ИИ-агенты взламывать сайты. Теперь считаем инциденты

За несколько месяцев агенты OpenAI и Anthropic вышли за пределы тестовых сред, скомпрометировали инфраструктуру Hugging Face, получили доступ к prod…

ИИ-агентыOpenAIAnthropicинформационная безопасностькибербезопасностьLLMAI agentsClaudeбезопасность ИИавтономные агенты
Habr
RU

Не начинать с LangChain: как спроектировать корпоративную GenAI платформу до реализации

Корпоративную GenAI платформу легко начать с выбора LLM, LangChain, vector database или Kubernetes. Но до этого полезнее ответить на другие вопросы:…

GenAIархитектура ПОEnterprise AIC4ADRRAGLLMModular MonolithpgvectorRabbitMQ
Habr
RU

Почему инференс LLM становится дорогим и как снизить расходы на GPU без покупки новых карт

Высокая загрузка GPU ещё не означает, что инфраструктуре не хватает ресурсов. В продакшене значительная часть времени может уход…

LLMинференсмашинное обучениеMLOpsGPUvLLMKubernetesнейронные сетиоптимизацияквантование
Habr
RU

Как я несколько часов гуглил, чтобы потом за 15 минут запустить локальный DeepSeek для Python и SQL

Полгода назад мне понадобился  личный AI помощник ( знаю...звучит слишком пафосно и мне самому это словосочетание не нравится ) для р…

OllamaDeepSeekLLMлокальный AIPythonPandasSQLWindowsлокальные модели
Habr
RU

LLM предлагает, код исполняет: как разделить reasoning и side effects в production-пайплайне

Если ваша LLM вызывает API и выполняет внешние действия, обычный retry после timeout может создать дубль или оставить систему в неизвестном состояни…

LLMAI-агентыproductionархитектура LLM-системside effectsidempotencyretrystate machinehuman-in-the-loopobservability
Habr
RU

Go сделали скучным — и после нейросетей это выстрелило

Go двадцать лет дразнили языком для дураков. Без дженериков, без перегрузок, без нормальных перечислений, без магии. Синтаксис учится за выходные, в…

golangязыки программированиягенерация кодаLLMобратная совместимостьдженерикимногопоточностькомпиляторыJavaPython
Habr
RU

Программирование для тех, кто не пишет код: как устроен VibeCraft

Те из нас, кто пробовал модный вайбкодинг, уже оценили обратную сторону медали. Агенты уверенно говорят: «Сейчас всё сделаю», несколько часов пишут…

вайбкодингвайб-кодингvibe codingVibeCraftSourceCraftИИ-агентымультиагентные системыLLMYandex Cloudпромпт-инжиниринг
Habr
RU

Как проверить postmortem, подготовленный LLM. Разбираем инцидент Cloudflare

LLM может быстро подготовить postmortem, но убедительный текст ещё не гарантирует точность выводов: модель способна неверно связать с…

postmortemLLMинцидентыSREDevOpsнадёжность системотказоустойчивостьмониторингproductionретроспектива
Habr
RU

Хорош хардкодить кривые MCP: превращаем любой скрипт в инструмент LLM за 2 секунды

Давайте будем честны: текущее состояние вызова функций (Function Calling) у LLM и экосистемы MCP (Model Context Protocol) вызывает изжогу. Чтобы дат…

LLMAI агентыMCPModel Context Protocolfunction callingtool callingBunself-hostedFastifydevops automation
Habr
RU

Когда разработчики ленятся писать документацию: описываем клиентский API силами нейросетей

Документация устаревает быстрее, чем код успевает писаться? Рассказываем, как мы построили конвейер из Python-скриптов и нейросетей, который сам нах…

hostkeyLLMAPI documentationPythonPHPAutomationGitMarkdownOllamaDevOps
Habr
RU

350 коммитов в неделю: как контрибьютить в проект, который меняется быстрее, чем ты пишешь

Представьте: ночной алерт, приложение отдаёт пятисотки, но само оно живо. Понятно, что дальше начнётся знакомое — вкладки с графиками, поиски в лога…

opensreai-агентыSRELLMопенсорсконтрибьютингKubernetesPostgreSQL
Habr
RU

Как использовать ИИ для написания и оптимизации Ansible-плейбуков в 2026 году

ИИ уже умеет генерировать Ansible-плейбуки, собирать роли, искать ошибки и помогать с рефакторингом. Но между «модель написала YAML» и «это можно пу…

AnsibleAnsible PlaybookDevOpsискусственный интеллектLLMInfrastructure as Codeавтоматизация инфраструктурыClaudeChatGPTGitHub Copilot
Habr
RU

Как мы научили ИИ читать корпоративные регламенты: от наивного RAG до измеримого pipeline

В статье - практический кейс создания корпоративного RAG-сервиса для поиска по внутренним регламентным и нормативным документам. Мы прошли путь от с…

RAGRetrieval-Augmented GenerationLLMкорпоративный поискгибридный поискsemantic searchBM25Arize Phoenixобработка документовкорпоративные знания
Habr