RU

Иллюзия контроля: почему промпты не защищают ИИ‑агентов

Почему указание вида «не отправляй конфиденциальные данные наружу» не работает? Разбираем уязвимость Permission Boundary Bypass, а также тех…

redteamllmprompt injectionjailbreakai-агентыllm securityindirect prompt injectionбезопасность данных
Habr
RU

HiveTraceRed vs garak: тестируем безопасность языковых моделей на русском и английском

Наша команда сравнила два открытых инструмента для проверки языковых моделей (LLM) на устойчивость к атакам: российский HiveTraceRed от HiveTrace/ITMO…

информационная безопасностьискусственный интеллектgarakhivetraceredllmpentestredteam