RAG под защитой: как не превратить корпоративную базу знаний в канал утечки
RAG используют там, где ответ должен опираться на внутренние знания компании : ассистенты по регламентам и политикам, сервисы поддержки сотрудников…
Latest News
⚑ Report a ProblemTech news from the best sources
All topics
- игры
AI
News
Tech
agents
ai
api
architecture
automation
beginners
career
database
devchallenge
devops
javascript
llm
machinelearning
mcp
opensource
performance
productivity
programming
python
react
security
showdev
testing
tutorial
typescript
webdev
MCP как новая поверхность атаки: как контролировать серверы, skills и tool calls, а не только промпты
ИИ-агент на рабочей станции работает с правами локального пользователя. Он может читать почту и ходить в SharePoint, запускать команды, работать с ф…
Почему DLP не контролирует ИИ и не закрывает OWASP Top 10 for LLM, Agentic Applications и MITRE ATLAS
«У нас уже стоит DLP, и она защитит от утечек в ChatGPT и Copilot». Эта фраза звучит достаточно часто, но она технически неверна. В этой статье мы р…
Как контроль Shadow AI связан с контролем ИИ‑агентов
«У нас ИИ нет, мы только планируем внедрение» – самый обманчивый ответ. На практике это почти всегда означает: инвентаризации нет, видимости нет, по…
Как внедрять MLSecOps: пять этапов практического road-map
MLSecOps переносит принципы DevSecOps на ИИ-системы. Он делает безопасность измеримой, воспроизводимой и встроенной в разработку и эксплуатацию, а н…
LLM/AI Firewall и Agent Runtime Security: как защитить корпоративных ИИ-агентов в 2026 году
В 2025–2026 годах компании массово переходят от простых чат-ботов к автономным ИИ-агентам. При этом агенты не просто отвечают, а выполняют реальные…
ML Red Teaming для LLM: можно ли обойтись open source-инструментами?
В этой статье расскажем про основные классы атак и практическую структуру тестирования ИИ-моделей на уязвимости – от провоцирования галлюцинаций и м…
AI/LLM Firewall на практике: сценарии атак и методы защиты
В данной статье расскажем о кейсах с наиболее интересными угрозами, связанными с применением LLM , проведем анализ вариантов применения AI/LLM Firew…