Эвалы для LLM-фич. Часть 1: зачем они нужны
Поменять промпт или модель можно за вечер. Понять, стало ли лучше, без эвалов нельзя. Разбираю, что такое эвал для LLM-фичи, где его запускать и что…
Latest News
⚑ Report a ProblemTech news from the best sources
All topics
- игры
AI
News
Tech
agents
ai
api
architecture
automation
backend
beginners
career
devchallenge
devops
javascript
llm
machinelearning
mcp
opensource
performance
productivity
programming
python
react
security
showdev
testing
tutorial
typescript
webdev
Medical record anonymization
Short answer Under Brazil’s LGPD (Lei Geral de Proteção de Dados), medical record anonymization is a lawful means to process health data without con…
OAB Recommendation 001/2024
Short answer OAB Recommendation 001/2024 is a non-binding guidance issued by the Brazilian Bar Association (Ordem dos Advogados do Brasil) on 12 Mar…
The guardrail receipt
Short answer A guardrail receipt is a tamper-evident audit record proving that an AI guardrail evaluation occurred with a defined policy, input scop…
PII: CPF and CNPJ masking
Short answer CPF and CNPJ must be masked in non-production AI systems and logs under LGPD’s principle of data minimisation (Art. 6, III) and confide…
Guardrails для LLM: как устроена защита языковых моделей
Привет, Хабр! Я Антон, инженер по информационной безопасности в Selectel . Представьте новость: защиту GPT-6 Astra обошли обычным транслитом.…
Запустил собственный PII-фильтр перед облачными моделями и отказался от идеи селф-хостед LLM
За последние 2 месяца я протестировал RTX PRO 6000 96GB / RTX4090 48GB и даже H200, оценивая варианты для селф-хоста, купил RTX5070ti и V100 32GB и…
Safe AI at Scale: Introducing Guardrails for Agent Kernel
By Yaala Labs Deploying AI agents in production comes with critical business risks: brand damage from inappropriate responses, regulatory penalties…
Умеет ли Jev быть guard-моделью для LLM?
За эти 2 года опенсорс Guard моделей не менялся принципиально: периодически выходили энкодеры, про которые быстро забывали, но SOTA всегда оставалис…
Как мы обучили детектор джейлбрейков для русскоязычных AI-агентов
Привет, Хабр! На связи команда R&D в Just AI, мы занимаемся исследованиями в области NLP и GenAI, чтобы продукты компании держали статус SOTA на…
ИИ-агент как цифровой сотрудник: где возникают риски и как их ограничить
ИИ-ассистенты все чаще действуют от имени пользователя: работают с почтой, CRM, документами и API. Фактически это новый тип цифрового сотрудника с д…
Промпт не удержал медицинскую границу. Как мы добавили LLM-тренеру страж на регулярках
В 1trAIner ИИ-тренер отвечает спортсменам в чате, пишет планы и разбирает тренировки. В системном промпте с самого начала было правило «при боли и т…
GuardRate: метрики, бенчмарки и инсайты из первого аудита (часть 2)
В первой части мы верхнеуровнево рассмотрели результаты оценки 37 моделей, обсудили проблему оценки и сравнения guardrail моделей, рассказали, как л…
GuardRate: метрики, бенчмарки и инсайты из первого аудита (часть 2)
В первой части мы верхнеуровнево рассмотрели результаты оценки 37 моделей, обсудили проблему оценки и сравнения guardrail моделей, рассказали, как л…
Как мы построили multilabel guardrail-классификатор и как мы сделали его в 3 раза быстрее и дешевле
Привет, дорогой читатель! Мы не будем переворачивать календарь, а лучше расскажем, как построили систему, которая ловит небезопасный контент автомат…
[Перевод] Больше свободы агентам — жёстче проверки: линтинг React 19 на ESLint 10
Чем больше автономии я даю ИИ-агентам, тем больше требований к коду превращаю в механические проверки. Когда eslint-plugin-react сломался на ESLint…
Microsoft Copilot reveals secret input that allowed it to be hacked
Secret parameter allowed hackers to steal passwords when a target clicked on a link.
Как не сломать LLM, пока защищаешь данные: под капотом Guardrails Filter
В прошлый раз я рассказывал, как работает Guardrails Filter: зачем вообще понадобился отдельный слой защиты данных при работе с LLM и какие задачи о…
GuardRate: как мы построили независимую арену для guardrail-моделей (часть 1)
Всем привет, на связи команда HiveTrace! Мы уделяем много времени разработке собственных моделей и часто задаемся вопросом: "какой из двух гар…
Ускорение инференса энкодерной guard‑модели: TensorRT, Triton, vLLM, Ray Serve
Когда в системе есть узел между LLM и пользователем его скорость также важна, как и скорость самой LLM. Когда этот узел сам является модел…
Теперь вы можете защититься от утечки данных при работе с любыми языковыми моделями
Пару дней назад Cloud.ru выложил исходный код Guardrails Filter в открытый доступ. Это прозрачный обратный прокси между клиентом и LLM-провайдерами,…
Now, defenders are embracing the prompt injection, too
"Context bombing" tricks hacking agents into shutting down before they can do harm.
Как я разработал легковесный Guardrails для русского языка
В этой статье расскажу о том как я воплотил в реальность свою идею разработать легковесный prodaction guardrails. Расскажу что такое Guardrails, дал…
Ditching the gates for guardrails: a better way to govern 🛡️
Manual approval gates and legacy modernization paralysis are killing our delivery velocity. When governance feels like a hurdle, we end up with shad…
Защита конфиденциальных данных в облачных LLM
Защита персональных данных и коммерческой тайны при работе с облачными LLM требует многоуровневого подхода, сочетающего архитектурные, технические и…
Как не отдать рецепт крабсбургера ИИ: Guardrails-фильтр против утечек данных
ИИ, большие языковые модели, ассистенты, агенты — нам обещали безграничную свободу и автоматизацию, но на практике отсыпали еще больше ограничений,…
the guardrails i actually use with ai agents
i argued in ai liberty that as models get more capable they get more confident, and that confidence makes them take liberties such as pushing to a p…
GLiNER Guard (GLiGuard): один schema-driven энкодер вместо зоопарка LLM-гардрейлов
Деплоите LLM? Значит, обвешиваете её гардами. Сначала safety, потом PII, потом prompt injection, потом toxic BERT - и в один прекрасный день обнаруж…
AI Governance по‑инженерному: что должен знать архитектор
Представьте: вы запускаете генеративную AI‑фичу в проде. Всё работает как часы. А через месяц получаете иск, потому что ваша мод…
Beyond the Vibe: Why “Secure by Default” is the Only Way to Build in 2026
Beyond the Vibe: Why "Secure by Default" is the Only Way to Build in 2026 We’ve all been there. You’re trying to complete a simple task—in my case,…