One Contract, Multiple Enforcement Points for Safe AI Agent Execution
Overview A lot of AI agent safety discussion still stops too early. People talk about: prompts instructions guardrails whether the agent "knows bett…
Latest News
⚑ Report a ProblemTech news from the best sources
All topics
- игры
AI
Gear
News
Tech
agents
ai
api
architecture
automation
beginners
career
database
devops
javascript
llm
machinelearning
mcp
opensource
performance
productivity
programming
python
react
security
showdev
testing
tutorial
typescript
webdev
Агент OpenAI не сошёл с ума. Что мы знаем о взломе Hugging Face спустя неделю
Первая новость об этой истории уже успела состариться. Сначала Hugging Face сообщила о сложной автоматизированной атаке, потом OpenAI признала, что…
Pillar research says the AI coding agent sandbox leaks through trusted files
Pillar Security's latest research says AI coding agents can be pushed to act outside their sandbox through files and tools they were told to trust,…
gitlawb-zero Heads to 0.4.0 With a Native npm Binary and Tighter Sandbox
gitlawb-zero is winding up a 0.4.0 release, and the commit stream shows a project maturing its distribution and its security boundaries at the same…
«Гражданин, обновитесь»: анализ вредоносной кампании Falcon
«Обновите приложение». Для большинства пользователей это привычное сообщение, а для хакеров - один из самых надежных и эффективных способ получить к…
Hajiz: rootless Linux‑sandbox на Rust — namespaces, Landlock, seccomp‑BPF и eBPF‑аудит без sudo
Я написал с нуля инструмент для изоляции Linux‑приложений на Rust — Hajiz . Это учебный проект по системной безопасности, к…
The Wrapper Got Heavy: Why ChatGPT Clones Are Runtime Problems Now
A year ago, "it's just a ChatGPT wrapper" was a dismissal. You'd hear it about a startup and know what it meant: an LLM API call, a little RAG, file…
LLM Sandbox: пример реализации агента с песочницей [часть 2, практика]
Статья посвящена практической реализации агента с изолированной средой исполнения кода. Рассказываю как устроен агент, который пишет и исполняет код…
Как я в 14 лет написал свой аналог LeetCode с котиками за месяц (и немного поехал башкой)
Привет, Хабр! Мне 14 лет, и пока мои ровесники ругаются в cs2, а нормальные люди спят по 8 часов, я решил, что мне катастрофически не хватает стресс…
LLM Sandbox: изолированная среда для исполнения кода от LLM [часть 1, теория]
В большинстве бизнес-сценариев LLM перестала быть просто чат-ботом. Современные модели становятся частью агентских систем: у них есть инструменты, д…
Больше, чем просто безопасность, или Зачем контролировать зависимости
Привет, Хабр! Меня зовут Артём Бердашкевич, в Positive Technologies руковожу направления DevSecOps. Сегодня хочу поговорить о теме, которая с годами…
Безопасная песочница
Каждую неделю появляется новая песочница для агентов. Большинство таких решений опирается на встроенные механизмы Linux: namespaces, seccomp, cgroup…
PostgreSQL Upgraded to Latest Minor Versions on SQLize.online 🐘🚀
As the owner of SQLize.online , I’m committed to providing a playground that doesn’t just let you write code, but lets you test against the most sta…
I Let an AI Agent Live on My VPS for Three Weeks
Saturday, 11pm. I'm at a friend's apartment across town and my laptop is at home. A Grafana alert lights up my phone: memory 92% on prod-1. The old…