Web

Последние новости Web от Tech News

Все темы AI agents ai api architecture automation backend beginners career database devchallenge devops discuss javascript linux llm machinelearning mcp opensource performance productivity programming python react security showdev testing tutorial typescript webdev
Все EN RU
RU

Почему ИИ‑агенты уязвимы к prompt injection и как защитить их на уровне архитектуры

В ИИ‑системах даже обычный документ может стать источником команд для модели. Если агент имеет доступ к инструментам с широкими…

безопасность ИИSecurity by Designprompt injectionИИ-агентыархитектура ИИ-системзащита LLMбезопасность RAGконтроль доступауязвимости ИИOWASP.
Habr
RU

Агентам выкатили патч. А git status в чужой папке до сих пор выполняет чужой код

Тебе присылают папку с репозиторием. Ты её открываешь, и на твоей машине выполняется чужой код. Ты не набрал ни одной команды. Это GitSpawn: восемь…

gitspawngitcore.fsmonitorкодинг-агентыclaude codeprompt injectionинформационная безопасность
Habr
RU

Сайты под управлением ИИ: как это работает под капотом. Часть 2 из 3

Сайты под управлением ИИ: что это на самом деле и сколько стоит. Часть 1 Это вторая часть из трёх. В первой мы разбирались с концепцией: что такое с…

LLMMCPNext.jsheadless WordPressGitHub Actionsprompt injectionJSON-LDISRDevOps
Habr
RU

Хотел упростить мониторинг проектов и в отпуск — пришлось обучать свой LLM. Часть 4. Тестирование

Продолжаем серию про файнтюнинг и создание DevOps-агента Oni. В первой части я собирался в отпуск и хотел, чтобы локальная моделька через OpenClaw с…

тестирование ИИagent evaluationQwen3.5файнтюнингDevOps-агентLLMбезопасность ИИprompt injectionOllamaLLM safety.
Habr