RU

MCP как новая поверхность атаки: как контролировать серверы, skills и tool calls, а не только промпты

ИИ-агент на рабочей станции работает с правами локального пользователя. Он может читать почту и ходить в SharePoint, запускать команды, работать с ф…

MCPtool callsINFERA AI.SafeAgentAgent Runtime SecurityRuntime-контроль ИИ агентаТеневой ИИAI FirewallLLM FirewallINFERA AI.Firewallсессия ИИ агента
Habr
RU

ML Red Teaming для LLM: можно ли обойтись open source-инструментами?

В этой статье расскажем про основные классы атак и практическую структуру тестирования ИИ-моделей на уязвимости – от провоцирования галлюцинаций и м…

Безопасность ИИML Red Teamingпентестуязвимости ИИMITRE ATLASмногоагентные атакиклассы атак на LLM-моделиINFERA AI.Firewallтестирование ИИ-моделей