RU

MLSecOps от кода до продакшена: разные акценты для разных сценариев использования ИИ

В этой статье рассмотрим два сценария использования ИИ в разработке : в первом случае ИИ помогает разработчику писать код, во втором ИИ становится ч…

MLSecOpsdevsecopsvibe codingвайб-кодингвайб-программированиеindirect prompt injectionappsecLLM AI Firewallpull requestINFERA AI.SafeAgent
Habr
RU

Иллюзия контроля: почему промпты не защищают ИИ‑агентов

Почему указание вида «не отправляй конфиденциальные данные наружу» не работает? Разбираем уязвимость Permission Boundary Bypass, а также т…

redteamllmprompt injectionjailbreakai-агентыllm securityindirect prompt injectionбезопасность данных
Habr
RU

Как заставить ИИ-рекрутера читать мой профиль правильно

Некоторое время назад я зарегистрировался на одной фриланс-бирже. Указал: коммерческий опыт на Rust — 1.5 года. Так и было на тот момент. Шло время,…

prompt injectionindirect prompt injectionпоисковая индексацияцифровой следрекрутингAI-скринингвеб-индексацияHRнайминформационная безопасность