RU

MCP как новая поверхность атаки: как контролировать серверы, skills и tool calls, а не только промпты

ИИ-агент на рабочей станции работает с правами локального пользователя. Он может читать почту и ходить в SharePoint, запускать команды, работать с ф…

MCPtool callsINFERA AI.SafeAgentAgent Runtime SecurityRuntime-контроль ИИ агентаТеневой ИИAI FirewallLLM FirewallINFERA AI.Firewallсессия ИИ агента
Habr
RU

Влияние ИИ на кибербезопасность: MITRE ATLAS и новый ландшафт угроз

Сегодня искусственный интеллект кардинально меняет как подходы к защите, так и методы атак. С развитием технологий ИИ-модели могут обрабатывать и ан…

AI FirewallMITRE ATLASprompt injectionSAFE-AIзащита AI моделейбезопасность ИИ
Habr
RU

AI-агентам скоро понадобится собственный Firewall. И вот почему

За последние несколько лет искусственный интеллект незаметно перешёл очень важную границу. Сначала нейросети просто отвечали на вопросы, потом начал…

AI-агентыAI FirewallAI GatewayAI SecurityAI Governanceкибербезопасностьинформационная безопасностькорпоративный ИИавтономные агентыконтроль действий AI
Habr
RU

AI/LLM Firewall на практике: сценарии атак и методы защиты

В данной статье расскажем о кейсах с наиболее интересными угрозами, связанными с применением LLM , проведем анализ вариантов применения AI/LLM Firew…

Безопасность ИИAI FirewallMITRE ATLASOWASP Top 10 for LLMСценарии атак на ИИБлокировка промпт-инъекцийINFERA AI.FirewallЗащита ИИ-моделиAI Security