RU

Безопасность ИИ: как перестать бежать анализировать каждое новое ПО и перейти к системному подходу

За последние два‑три года компании в РФ перестали относиться к ИИ как к «чудо машине» и начали встраивать его в рабочие проце…

cybersecurityaiai security
Habr
RU

Охота на CVE в Cursor IDE: полный технический разбор безопасности AI-редактора

Cursor — AI-powered IDE на базе VS Code, которая обрабатывает миллионы строк кода разработчиков через свои серверы. Когда я задумался о безопасности э…

cursor idesecurity researchprototype pollutionprotobufgrpcconnect-rpccvereverse engineeringai securitybug bounty
Habr
RU

ИИ-агенты в ИБ: путь к доверенному члену команды

На контроллере домена система EDR фиксирует подозрительную активность. Кажется, ничего такого. Обычный алерт, один из нескольких тысяч, кото…

edrsocбезопасность ииai securityии-агентыии-ассистентai agentai assistantragalignment
Habr
RU

Guardrails для LLM на Java: как приручить промпт‑инъекции и токсичные ответы

Когда я впервые внедрял LLM в production-сервис, схема безопасности выглядела примерно так: написать хороший system prompt, поставить галочку «мы всё …

llmguardrailsprompt injectionjailbreakai securityбезопасность llmjavaspring ailangchain4jbackend