RU

Тот самый харнесс который мы заслужили в эпоху, когда безопасность ИИ уже не диковинка

Если запустить любую передовую языковую модель из коробки и попросить ее провести тестирование безопасности агентной системы или собрать актуальный…

ai securityllm securityии-агентыбезопасность иихарнессdeepseekpaper-to-pochermesprompt injectionappsec
Habr
RU

Летальное трио агентской разработки: как ИИ-агенты открывают доступ к инфраструктуре и что с этим делать

Привет, Хабр! Я Денис Макрушин, работаю в Яндексе, и вместе с командой SourceCraft Security   строю платформу для безопасной агентской разработ…

ai securityagentic engineeringai red teamingИИ-агентыагентская разработкабезопасность ИИбезопасная разработкаLLM securityprompt injectionRAG poisoning
Habr
RU

Зрелость внедрения ИИ и зрелость информационной безопасности ИИ

Две зрелости – внедрения ИИ и его защиты – почти никогда не совпадают, и именно зазор между ними даёт большинство инцидентов и претензий регулятора.…

шкала CMMIПриказ ФСТЭК 117OWASP AIMAЗрелость ИБ для ИИINFERA SecurityВнедрение ИИбезопасность ииai securityshadow ai
Habr
RU

[Перевод] Теневой ИИ в CI/CD: моделирование угроз на пути от ноутбука разработчика до Kubernetes

Искусственный интеллект становится частью повседневной поставки ПО — часто ещё до того, как становится частью архитектуры безопасности. У этого разр…

vk cloudтеневой ииai securityci_cdthreat modelingkubernetes securitysupply chain securityprompt injectionpolicy as codedevsecops
Habr
RU

Самая опасная уязвимость — интеллект атакующего агента?

Сейчас уже не удивляет, что агенты работают с терминалом, БД, браузером и инфраструктурой - без прямого контроля человека. Но чем шире полномочия аг…

ai securityllm securityавтономные агентыai agentsинформационная безопасностьthreat modelingtaxonomiesprompt injectiongoal hijackingmitre attack
Habr
RU

Агент OpenAI не сошёл с ума. Что мы знаем о взломе Hugging Face спустя неделю

Первая новость об этой истории уже успела состариться. Сначала Hugging Face сообщила о сложной автоматизированной атаке, потом OpenAI признала, что…

openaihuggingfacegptai agentsагентный ииllmexploitgymai securityкибербезопасностьsandbox
Habr
RU

Методические рекомендации Банка России по безопасности ИИ на финрынке (№ 3-МР): обзор и что делать на практике

Привет, уважаемые эксперты! На связи Альбина Аскерова, руководитель направления по взаимодействию с регуляторами Swordfish Security.…

искусственный интеллектai securityрегулирование ииai governanceaillmзаконодательствофинтех
Habr
RU

Технический трек R-EVOlution Conference 2026: 11 докладов, которые теперь можно посмотреть в записи

Иногда самые интересные разговоры на конференциях происходят не на главной сцене. Пока в большом зале обсуждают рынок, стратегию и будущее индустрии…

кибербезопасностьибsocsiemsoarthreat huntingуправление уязвимостямианализ угрозai securitythreat intelligence
Habr
RU

Как платформа управления AI-агентами будет справляться с нагрузкой: архитектура без магии

Когда говорят про AI-агентов, обычно обсуждают качество модели, промпты, рассуждения, hallucinations, стоимость токенов и скорость ответа. Но если у…

aiai-агентыai agentai-agentai securityossecurity sectors
Habr
RU

Почему компании скоро начнут учитывать AI-действия как новый вид корпоративного актива

Токен — это единица текста. AI-действие — это единица полезного результата. AI-действия - это не абстракция и не побочный эффект автоматизации. Это…

ai-агентыaiai агентыosai securityии помощникии-агентыии-помощникиии-агентзащита информации
Habr
RU

Через 5 лет каждая компания будет управлять AI так же, как сегодня управляет сотрудниками

Еще несколько лет назад искусственный интеллект воспринимался как экзотический инструмент для крупных корпораций, исследовательских лабораторий и эн…

ai-агентыai agentai-agentsecuritysecurity apiai securityai-securityanalyticsanalysisos
Habr
RU

Identity-First Security: почему периметр умер окончательно и что приходит ему на смену

Атакующие давно не ломают стены – они входят в дверь по легитимным учетным данным. Разбираем, почему модель периметра: «межсетевой экран + VPN + кол…

информационная безопасностьIAMzero trustcisoidentity securityai securityZTNAmcp