RU

Темная сторона ЛЛМ: Как и для чего их превращают в оружие (и что с этим делать)

Почему чатбот может захотеть подделывать монгольские тугрики с помощью коры ивы или писать вредоносный код на коре дуба ? Виной тому джейлбрейкинг и…

искусственный интеллектииaiджейлбрейкинформационная безопасностьбезопасностьбезопасность данныхпромтпромт-инъекциипромт-инженеры
Habr
RU

OWASP LLM10: Unbounded Consumption. Тестируем современные языковые модели на ресурсоёмких промптах

Большие языковые модели становятся неотъемлемой частью современных информационных систем. Корпоративные помощники, RAG-приложения, AI-агенты, генера…

LLMбольшие языковые моделиинформационная безопасностьпентестred teamingnatural language processingjailbreakджейлбрейкпромптатака