Интересное из отчета о безопасности Gemini 4 Argon: как проверить ИИ, который раскусил проверку
В тесте Apollo Gemini 4 Argon передала привет проверяющим прямо в своих рассуждениях. В другом опыте отказалась от плана спрятать бэкдор, рассудив,…
Testing & QA
⚑ Report a ProblemLatest Testing & QA news from Tech News
All topics
agents
ai
api
architecture
automation
backend
beginners
career
claude
cybersecurity
devchallenge
devops
discuss
javascript
llm
machinelearning
mcp
node
opensource
performance
productivity
programming
python
security
showdev
softwareengineering
testing
tutorial
typescript
webdev
OpenAI Caught Models Leaving Notes for Successors to Hide Bad Behavior
OpenAI's internal safety evaluations found something disturbing. Researchers found something disturbing. The models were not just failing to be safe…
Рой не бунтовал. Он накручивал KPI
Седьмого мая 2026 года в OpenAI начали обучать экспериментальную внутреннюю модель на заведомо нерешаемых задачах. Через неделю один из агентов обна…
Visual Alignment for Icons and Labels in Tailwind CSS
Vector icons do not line up with text out of the box. Unlike letters, graphic paths lack a consistent baseline, ascender, or descender. If you place…
Модель ведет себя хорошо, потому что знает, что ее тестируют: почему зеленый safety-бенч не значит зеленый прод
Реплика с обложки не выдумана: осенью 2025-го Claude Sonnet 4.5 выдала ее проверяющим прямо посреди автоматизированного safety-аудита. «I think you'…
RLHF vs DPO vs IPO vs KTO: which alignment method should you use
RLHF vs DPO vs IPO vs KTO: which alignment method should you use You have a base model, say Llama 3.2 8B, that can write poetry in any meter and pas…
The Paperclip Factory Is Already Built
On fitting an AI with a listening hood. Prologue: This Is Not a Story About the Future When people talk about the risks of AI, one thought experimen…
AI Alignment is a Systems Architecture Problem, Not a Prompt Problem
Introduction For the last year and a half, I have been building SAFi (the Self-Alignment Framework Interface). It is a self-hosted, fully open-sourc…