309 правил, которые закрывают дыры в AI-агентах
На соревновании AI-агентов https://bitgn.com , где я участвовал, был класс задач на секьюрити. Там могли подсунуть промпт-инъекцию, попросить прочитат…
AI & ML
⚑ Report a ProblemLatest AI & ML news from Tech News
All topics
AI
News
Tech
agents
ai
api
architecture
automation
aws
beginners
career
claude
cybersecurity
database
devchallenge
devops
javascript
llm
machinelearning
mcp
opensource
performance
productivity
programming
python
security
showdev
tutorial
typescript
webdev
AI-агент на OpenClaw слил $441 000 за один твит. Разбор шести катастроф и архитектуры, которая меня пока спасает
AI-агент на OpenClaw слил $441 000 за один твит. Разбор шести катастроф и архитектуры, которая меня пока спасает Один твит про «лечение столбняка для …
Guardrails для LLM на Java: как приручить промпт‑инъекции и токсичные ответы
Когда я впервые внедрял LLM в production-сервис, схема безопасности выглядела примерно так: написать хороший system prompt, поставить галочку «мы всё …
Пентест с помощью ИИ в России и материалы для сертификации по безопасности ИИ
Привет, Хабр. Не так давно вышли две новости, которые я прочитал вместе. Первая. Николас Карлини из Anthropic продемонстрировал, как Claude автономно …
Мой CLAUDE.md — 582 строки. Вот зачем
Каждый новый чат с Claude Code начинается с нуля. Агент не знает ваш проект, не помнит что вы обсуждали час назад, и на шестой раз всё равно полезет “…