RU

Сканер prompt injection без PyTorch: как я продолжил заархивированный LLM Guard и научил его находить СНИЛС

Если ваш сервис отправляет текст пользователя в языковую модель, между ними почти наверняка нужен фильтр. На входе он ловит prompt injection («забуд…

llmprompt injectionllm guardonnxперсональные данные152-фзpresidiotransformerspythononnx runtime
Habr
RU

Как мы перестали писать описания к merge request руками: AI Describer в GitLab CI и Jenkins

Поле описания merge request пустое или содержит список commit messages. Ревьюер открывает diff на несколько десятков файлов и не пони…

merge requestpull requestcode reviewgitlab cijenkinsllmгенерация описанийdotnet toolавтоматизация code reviewprompt injection
Habr
RU

Локальный ассистент для зумов, часть 5: зачем локальному ассистенту облако и что уходит наружу

Пятая часть про локальный ассистент для созвонов. В первой части я написал: ничего не уходит в облако. Облако появилось на второй день проекта, пото…

ассистент встречлокальные llmоблачная ревизияприватностьclaude codeopusграф знанийobsidianprompt injectionopen source
Habr
RU

Агентам выкатили патч. А git status в чужой папке до сих пор выполняет чужой код

Тебе присылают папку с репозиторием. Ты её открываешь, и на твоей машине выполняется чужой код. Ты не набрал ни одной команды. Это GitSpawn: восемь…

gitspawngitcore.fsmonitorкодинг-агентыclaude codeprompt injectionинформационная безопасность
Habr
RU

AI-агент в проде: песочница, RBAC и egress-контур вместо надежды на промпт

По прогнозу Gartner, к концу 2026 года task-specific AI-агенты будут встроены в 40% корпоративных приложений против менее чем 5% в 2025-м по оценке…

vk cloudai agentsии-агентыai securitysandboxingkubernetes securityrbacnetworkpolicyegress controlprompt injection
Habr
RU

Перестаньте спрашивать «этот скилл безопасен?» — спрашивайте «что он умеет?»

Подход «раскрытия возможностей» (capability disclosure) к скиллам для ИИ-агентов и маленький open-source инструмент, который читает скилл за вас. Чи…

mcpprompt injectionclaude-codeclaude code skillsбезопасность цепочки поставокopen-source
Habr
RU

[Перевод] Теневой ИИ в CI/CD: моделирование угроз на пути от ноутбука разработчика до Kubernetes

Искусственный интеллект становится частью повседневной поставки ПО — часто ещё до того, как становится частью архитектуры безопасности. У этого разр…

vk cloudтеневой ииai securityci_cdthreat modelingkubernetes securitysupply chain securityprompt injectionpolicy as codedevsecops
Habr
RU

Сайты под управлением ИИ: как это работает под капотом. Часть 2 из 3

Сайты под управлением ИИ: что это на самом деле и сколько стоит. Часть 1 Это вторая часть из трёх. В первой мы разбирались с концепцией: что такое с…

LLMMCPNext.jsheadless WordPressGitHub Actionsprompt injectionJSON-LDISRDevOps
Habr
RU

Скачал skills по совету из YouTube — слил все свои данные. Как это работает?

Представьте: вы посмотрели ролик на YouTube о том, как настроить ИИ‑ассистента для работы. Автор советует поставить пару‑тройку…

AI-агентыskillsкибербезопасностьClaude Codeprompt injectionвредоносный кодскилы для новичковии-безопасность
Habr
RU

Prompt injection нельзя запатчить: год «летальной триады» и лента CVE 2026 года

В марте 2026-го бэкдор пролежал на PyPI около трёх часов. За это время заражённый пакет скачали почти 47 тысяч раз. Пакет назывался LiteLLM — это шл…

prompt injectionИИ-агентыLLMинформационная безопасностьлетальная триадаOWASPEchoLeakCaMeLagentic AIMCP
Habr
RU

Как мы автоматизировали мониторинг цен конкурентов: мультиагентная система на CrewAI + n8n + Firecrawl

0. TL;DR для тех, кто спешит Статья о том, как собрать из подручных open-source инструментов систему, которая ежедневно: — Сканирует цены и отзывы у…

n8nfirecrawlllmagentspythonпарсингмониторинг цен конкурентовe-commerceai-безопасностьprompt injection
Habr
RU

Ваш Telegram-бот на базе LLM уязвим. Я написал сканер, чтобы доказать это на популярном Open Source проекте

TL;DR: Я создал BarkingDog — ИИ-сканер безопасности с открытым исходным кодом для Telegram-ботов и веб-приложений на базе LLM. Затем я натравил его…

llmred teamingинформационная безопасностьprompt injectiontelegram-боты