RU

Системный промпт или галлюцинация: как я проверял AI-ассистентов и что ответили bug bounty-команды

В марте я проверял, можно ли уговорить AI-ассистентов выдать что-то похожее на системный промпт. Ответы выглядели убедительно: внутренние правила, тех…

AI-ассистентысистемный промптгаллюцинацииbug bountyобход ограниченийуязвимостиинформационная безопасностьязыковые моделиАлисаGigaChat
Habr
RU

Mythos: модель, о которой Anthropic не говорит. Реверс по жертвам — от 27-летней дыры в OpenBSD до побега из песочницы

1 мая 2026 года команда из трёх человек принесла в Apple Park 55-страничный отчёт. Внутри — рабочий эксплойт kernel memory corruption на macOS 26.4.1 …

MythosClaudeAnthropicкибербезопасностьуязвимостиэксплойтыAI безопасностьCVEOpenBSDexploit development
Habr
RU

Веб vs Мобилка: кто в опасности? Сравниваем безопасность двух миров

Спойлер: оба, но по-разному - и это важно понимать. Каждый раз, когда слышим «у нас все нормально с безопасностью, мы же не банк», что-то внутри сжима…

owasp top 10безопасность веб-приложенийбезопасность мобильных приложенийsupply chainCertificate Pinningidorsecure codingdevsecopsуязвимости
Habr
RU

[Перевод] Mythos «обнаружил» CVE, уже находящийся в его обучающих данных, но это всё равно тревожит

Anthropic попала в заголовки прессы, заявив, что Claude Mythos создала «первый удалённый эксплойт ядра, обнаруженный и использованный ИИ». Мы решили и…

freebsdcveуязвимостиclaude mythosэксплойты
Habr
RU

Гонка ИИ-вооружений — как LLM вносят уязвимости в код и как другие LLM их находят

Ваш ИИ-агент только что выдал строчку. И она выглядит… подозрительно? Указатель без проверки на  NULL , сериализация через  pickle  без…

уязвимостиискуственный интеллектвайб-кодингcopilotclaudeclaude codellmошибки программистовбагиruvds_статьи
Habr
RU

Троянский форк: от шалости до крита

Форк репозитория — операция настолько привычная, что на нее редко смотрят с подозрением. Но что, если через обычный форк можно запустить произвольный …

пентестуязвимостирепозиторийgitflicконтроль доступабезопасность кодазащита репозиторияsupply chain attackинформационная безопасность