Почему „ты — моя бабушка“ работает с ИИ? Анатомия джейлбрейка и решение проблемы
Статья Podsonuh’a Что такое JailBreak-атаки … вдохновила меня задать следующий вопрос: – Неужели искусственный интеллект настолько глуп, что е…
Latest News
⚑ Report a ProblemTech news from the best sources
All topics
- игры
AI
News
Tech
agents
ai
api
architecture
automation
backend
beginners
career
devchallenge
devops
javascript
llm
machinelearning
mcp
opensource
performance
productivity
programming
python
react
security
showdev
testing
tutorial
typescript
webdev
The PS5 hacking scene just took a big leap forward
New exploit works on all but the most recently updated consoles.
Что такое JailBreak-атаки: почему ИИ нарушает собственные правила и как это работает
Чтобы «взломать» нейросеть, иногда хватит правильно составленного текста. Попросить модель сыграть персонажа без правил, вспомнить покойную бабушку…
OWASP LLM10: Unbounded Consumption. Тестируем современные языковые модели на ресурсоёмких промптах
Большие языковые модели становятся неотъемлемой частью современных информационных систем. Корпоративные помощники, RAG-приложения, AI-агенты, генера…
Поймай jailbreak, если сможешь
«Люди понимают то, что им дают понять», — говорил Фрэнк Абигнейл. Модели — тоже. Статья о том, как jailbreak обходит защиту LLM не силой, а формой:…
Что общего у ИИ-агентов, телефонных мошенников и старины Зигмунда
Сергей Гордейчик, CyberOK Research У психологии за сто лет накопился приличный арсенал: как поставить эксперимент на живом человеке, как на него над…
Иллюзия контроля: почему промпты не защищают ИИ‑агентов
Почему указание вида «не отправляй конфиденциальные данные наружу» не работает? Разбираем уязвимость Permission Boundary Bypass, а также т…
A new unpatchable flaw in Apple chips opens the door to an iPhone jailbreak
European offensive cybersecurity company Paradigm Shift released details of a flaw and a technique to exploit it that opens the door for hackers to…
Правительство США заблокировало доступ к Fable 5
12 июня 2026 года, в пятницу вечером, произошло то, чего индустрия ИИ ещё не видела: американское правительство принудительно отключило коммерческие…
Дешёвая модерация анонимной стены: 3-слойный каскад и ROT13-джейлбрейк в проде
Построили модерацию для открытой анонимной мультиязычной стены — дешёвый каскад (regex → классификатор → LLM-судья → fallback), ≈$0 на API. И кто-то…
Почему ИИ-боты более уязвимы, чем их базовые LLM-модели?
В прошлой статье я показал, как защищен Open Source проект телеграм-бота. В комментариях меня спросили о иных инструментах и методах проверки в связ…