Моё исследование средств выявления уязвимостей в скиллах
Пока делал CEO AI (моё виденье помощника в работе), решил проверить, можно ли использовать сканеры для проверки скиллов перед подключением. Собрал 1…
Latest News
⚑ Report a ProblemTech news from the best sources
All topics
- игры
AI
News
Tech
agents
ai
api
architecture
automation
backend
beginners
career
devchallenge
devops
javascript
llm
machinelearning
mcp
opensource
performance
productivity
programming
python
react
security
showdev
testing
tutorial
typescript
webdev
Session replay и 152-ФЗ: что нельзя записывать и как мы маскируем поля
Где в записи сессии оказываются чужие персональные данные, даже если пользователь ничего не вводил, почему маскировать их нужно ещё в браузере и как…
Замедлить нельзя продолжать: почему лидеры ИИ призывают остановиться и кто против
В субботу, 12 сентября, Дарио Амодеи, глава Anthropic, одной из крупнейших компаний в сфере искусственного интеллекта, опубликовал пост, в котором п…
Бэкап, из которого ни разу не восстанавливались — это не бэкап
Бэкап, который ни разу не проверяли восстановлением, может не помочь в момент аварии. В статье разберём, где чаще всего ломаются…
ИИ-агенты все помнят. И это плохо
Скорее всего, вы знаете, что агенты — это ИИ-модели, способные вызывать внешние и внутренние инструменты и циклично выполнять задачи. Они умеют расс…
Bucket Access Policy: когда авторизацию возвращают в хранилище, а прокси выключают
У нас в публичном облаке VK Cloud у каждого бакета Object Storage есть Bucket Access Policy. Это набор правил в формате JSON, который лежит на самом…
Bucket Access Policy: когда авторизацию возвращают в хранилище, а прокси выключают
У нас в публичном облаке VK Cloud у каждого бакета Object Storage есть Bucket Access Policy. Это набор правил в формате JSON, который лежит на самом…
Как страны регулируют ИИ: от жёстких запретов до «гаваней без правил»
Искусственный интеллект проник уже почти во все сферы деятельности человека, но вместе с этим в мире появляется всё больше запретов на его использов…
АРХИТЕКТУРНЫЙ ОТВЕТ НА АТАКИ АВТОНОМНЫХ ИИ-АГЕНТОВ
27 августа 2026 более 100 ведущих технологических и финансовых компаний - включая OpenAI, Anthropic, Google, Microsoft, IBM, Cisco, Visa, Mastercard…
Как общаться с ИИ и не потерять данные?
Разбудите меня ночью и спросите «что нельзя делать с ИИ», и я отвечу «грузить конфиденциальные данные». Это правило должно быть записано у нас на по…
Bucket Access Policy: когда авторизацию возвращают в хранилище, а прокси выключают
Бакет в S3 — не просто папка для файлов, а ресурс, на котором хранилище принимает решение о доступе к объектам. Пока доступ контролирует только ngin…
Куда на самом деле попадает секрет при сборке Docker-образа: разбираем 8 способов
Секрет попал в Dockerfile, разработчик спохватился и добавил RUN rm. Файла в контейнере больше нет — значит, всё в порядке? Нет: строку по-прежнему…
Темная сторона ЛЛМ: Как и для чего их превращают в оружие (и что с этим делать)
Почему чатбот может захотеть подделывать монгольские тугрики с помощью коры ивы или писать вредоносный код на коре дуба ? Виной тому джейлбрейкинг и…
Загрузил не тот файл в нейросеть — уволен. Как устроена безопасность данных в ИИ
Договор с клиентом, фрагмент кода, медицинская карта — отважные пользователи нейросетей каждый день загружают данные, которые никогда бы не отправил…
9 ошибок при создании и внедрении чат‑ботов
Чат‑бот можно собрать за вечер, но его реальная цена проявляется позже — в ошибочных ответах, лишней нагрузке на коман…
«Приватное» оказалось не приватным: разбираю свежий Gitea auth-bypass на живом стенде
Self-hosted git ставят ради приватности кода. А оказалось, что “приватное” в Gitea открывается одним HTTP-заголовком: без пароля утекают секреты из…
ИИ-агент работает, пока ему не дали доступ к реальным данным. Что ломается в проде?
На стенде ИИ-агенту легко быть умным: идеальный контекст уже собран, а реальные базы данных остались за кадром. Но в проде ему придется самому ходит…
ИИ зависимость и лекарство от prompt injection (в том числе от системного промпта провайдера)
Повсеместная экспансия различных ИИ-ассистентов во все сферы достигла такой глубины, что её впору сравнить с наркотической зависимостью. Эйфория от…
Praetorian: как мы сделали security-продукт для корпоративных чатов в Telegram и Max
Привет, Хабр! Рабочие обсуждения давно ушли из почты и таск-трекеров в мессенджеры. Там собирают проектные группы и каналы, координируют инциденты,…
Почему мы отказались от «AI в каждой кнопке» и зато встроили AES-GCM в детское приложение
Почему мы отказались от «AI в каждой кнопке» и зато встроили AES-GCM в детское приложение Откуда вообще взялось MIO MIO — это история про собственны…
Иллюзия контроля: почему промпты не защищают ИИ‑агентов
Почему указание вида «не отправляй конфиденциальные данные наружу» не работает? Разбираем уязвимость Permission Boundary Bypass, а также т…
FastAPI и S3 — строим сервис безопасной генерации временных ссылок
В современных веб-приложениях хранение файлов часто отдают специализированным объектным хранилищам, таким как S3 . Это удобно, масштабируемо и надеж…
Что находит DBF в первый месяц: 10 типовых аномалий в СУБД
Привет, Хабр! Меня зовут Алексей Шмелёв, я руковожу группой аналитики и безопасности данных в «Гарде». Мы занимаемся настройкой «решающих правил» в…
Промпт-инъекции в реальных данных, широкие права доступа и другие способы сломать ИИ-агента
Привет, Хабр! На связи команда Jay Guard — платформы, которая помогает безопасно использовать языковые модели и ИИ-агентов. Недавно мы опубликовали…
Как перестать сливать ключи клиентов в ChatGPT: пишем умный буфер обмена для n8n и Python
Каждый интегратор сегодня дебажит код и JSON-воркфлоу через нейросети. И каждый хоть раз ловил холодный пот, понимая, что только что скормил в ChatG…
SAST прямо в IDE: как Veai ищет уязвимости в Java/Kotlin-проекте и помогает их исправлять
Эта статья про SAST в IDE: как Veai проверяет Java/Kotlin-проект, показывает путь данных по коду и помогает исправлять найденные уязвимост…
CyLab Security Academy: как Carnegie Mellon превратила CTF в полноценную обучающую платформу
Вход в кибербезопасность почти всегда начинается с одной и той же проблемы: непонятно, с чего именно начинать. Теория без практики быстро забывается…
Как мы построили CRM для рассылок с нуля, чтобы вернуть контроль над персональными данными
Привет, Хабр! Меня зовут Алексей Постригайло, я старший партнер ИТ-интегратора “Энсайн”. Больше 20 лет я занимаюсь системной интеграцией и управлени…
Как мы построили CRM для рассылок с нуля, чтобы вернуть контроль над персональными данными
Привет, Хабр! Меня зовут Алексей Постригайло, я старший партнер ИТ-интегратора “Энсайн”. Больше 20 лет я занимаюсь системной интеграцией и управлени…
[Перевод] Промпты — это рекомендации, а не правила. Структура — это обязательное условие
Агент знал свои принципы. Он процитировал их обратно — «Я нарушил каждый принцип, который мне был дан: я предположил вместо того, чтобы проверить».…