RU

MCP как новая поверхность атаки: как контролировать серверы, skills и tool calls, а не только промпты

ИИ-агент на рабочей станции работает с правами локального пользователя. Он может читать почту и ходить в SharePoint, запускать команды, работать с ф…

MCPtool callsINFERA AI.SafeAgentAgent Runtime SecurityRuntime-контроль ИИ агентаТеневой ИИAI FirewallLLM FirewallINFERA AI.Firewallсессия ИИ агента
Habr
RU

Почему DLP не контролирует ИИ и не закрывает OWASP Top 10 for LLM, Agentic Applications и MITRE ATLAS

«У нас уже стоит DLP, и она защитит от утечек в ChatGPT и Copilot». Эта фраза звучит достаточно часто, но она технически неверна. В этой статье мы р…

DLP и ИИутечка через ИИINFERA AI.FirewallINFERA AI.SafeAgentagent runtime securityСравнение DLP и LLM AI Firewall
Habr
RU

Runtime-контроль ИИ-агентов: единица контроля не модель, а действие

Пока рынок спорил, достаточно ли «умного» фильтра на промпт, агенты уже начали вызывать инструменты, ходить в MCP, трогать платёжные API и уносить к…

INFERA AI.SafeAgentRuntime-контроль ИИ-агентовMCPТеневой ИИshadow AICursorагентный supply chainGuardian AgentsMLSecOpsOWASP Top 10 for Agentic
Habr
RU

Как контроль Shadow AI связан с контролем ИИ‑агентов

«У нас ИИ нет, мы только планируем внедрение» – самый обманчивый ответ. На практике это почти всегда означает: инвентаризации нет, видимости нет, по…

Shadow AIruntime-контрольконтроль ИИ агентовtool callsконтроль MCPAI-BOMHuman-in-the-LoopINFERA AI.FirewallINFERA AI.SafeAgentOWASP Top 10 for Agentic
Habr
RU

Как внедрять MLSecOps: пять этапов практического road-map

MLSecOps переносит принципы DevSecOps на ИИ-системы. Он делает безопасность измеримой, воспроизводимой и встроенной в разработку и эксплуатацию, а н…

MLSecOpsAI Security OperationsAI-BOMКонтроль кодаINFERA AI.SafeCodeRuntime-защитаRed TeamingINFERA AI.FirewallINFERA AI.SafeAgentконтроль ИИ агентов
Habr
RU

MLSecOps от кода до продакшена: разные акценты для разных сценариев использования ИИ

В этой статье рассмотрим два сценария использования ИИ в разработке : в первом случае ИИ помогает разработчику писать код, во втором ИИ становится ч…

MLSecOpsdevsecopsvibe codingвайб-кодингвайб-программированиеindirect prompt injectionappsecLLM AI Firewallpull requestINFERA AI.SafeAgent