Хронология инцидентов с ИИ-агентами: два разных класса и чек-лист изоляции для своего агента
За три месяца OpenAI, Anthropic, Google и Meta раскрыли серию случаев, когда агенты вышли за рамки теста или задачи. Агентство AP собрало их в одну…
Testing & QA
⚑ Report a ProblemLatest Testing & QA news from Tech News
All topics
agents
ai
api
architecture
automation
backend
beginners
career
claude
cybersecurity
devchallenge
devops
discuss
javascript
llm
machinelearning
mcp
node
opensource
performance
productivity
programming
python
security
showdev
softwareengineering
testing
tutorial
typescript
webdev
Как использовать ChatGPT, чтобы получить 360 сертификатов по искусственному интеллекту за один день
Я отправил ИИ-агента проходить онлайн-курсы OpenAI, Anthropic, Google. Через 6-30 минут тесты сданы на 10 из 10 баллов, и готов сертификат на мое им…
Meet the Anthropic Engineer Keeping Its AI Agent Trustworthy
If you’ve ever wondered how Claude and similar AI agents can answer complex questions in seconds and where they get the information, you’re not alon…
Anthropic is cutting off its internal evaluations from the internet
After a recent spate of high-profile incidents in which AI agents escaped containment, Anthropic is cutting off internet access for all internal eva…
Как дать Claude Code документацию, которую он прочтёт: импорт в CLAUDE.md молча ломается в пути на пробеле
Если в пути импорта в CLAUDE.md есть пробел, Claude Code обрывает путь на нём, файл не грузится, а ошибки нет. Так у меня ни разу не загрузились два…
как OpenAI, Anthropic, Google и xAI борются за модели, облака и разработчиков
OpenAI, Anthropic, Google и xAI уже конкурируют не только качеством моделей. Настоящая борьба идёт за вычислительные мощности, собственные чипы, при…
Trump plan to combat AI risks hinges on Big Tech pals policing themselves
Trump gets dozens of AI firms to agree to voluntary safety tests.
Год назад мы обсуждали, смогут ли ИИ-агенты взламывать сайты. Теперь считаем инциденты
За несколько месяцев агенты OpenAI и Anthropic вышли за пределы тестовых сред, скомпрометировали инфраструктуру Hugging Face, получили доступ к prod…
Anthropic launches Claude Opus 5.5 with stricter safeguards for cybersecurity
Anthropic says its new Claude Opus 5.5 model comes with stronger safeguards in the wake of recent rogue AI hacking incidents. In an announcement on…
Is Big Tech’s AI slowdown a safety pact or a cartel?
When OpenAI CEO Sam Altman, Anthropic CEO Dario Amodei, Google DeepMind cofounder Demis Hassabis, and SpaceX head Elon Musk loosely agreed over the…
Trump may be forced to reveal secret rules feds use for AI safety testing
Trump’s secret reviews of frontier AI models may hide corruption, lawsuit says.
Claude Code за неделю: /resume в десктопе, запуск сессии с телефона и своя память у субагентов
29 августа Anthropic разослала еженедельный дайджест по Claude Code. Пересказ на русском: /resume подхватывает терминальную сессию в десктопном прил…
Одна строка в системном промпте отключала кеш целиком. 1% против 98% на живых вызовах
Токен, прочитанный из кеша, стоит не «немного дешевле». Он дешевле в 10–31 раз : DeepSeek — $0.44 против $0.014 за миллион, OpenAI — $4.00 против $0…
Что нового в Claude Code: разбор восьми августовских релизов
С 13 по 21 августа Anthropic выпустила восемь версий Claude Code, с 2.1.232 по 2.1.239. Разбираю по порядку, что реально приехало: fork-субагенты с…
Anthropic пометила текст Claude невидимым клеймом. Опенсорс-сообщество попыталось взломать уже через 48 часов
2.08.2026 года, в день когда в ЕС реально завелась статья 50 AI Act, Anthropic сделала ход конём: с этого дня каждый текст, который выдаёт свеженька…
Claude Code History Viewer: история сессий Claude Code в браузере
Claude Code History Viewer читает ~/.claude/projects и превращает машинный JSONL в нормальный интерфейс: диалоги с тулколлами и сабагентами, глобаль…
The AI safety test is becoming a safety risk
AI agents are escaping cybersecurity testing environments and reaching real-world systems, raising questions about whether safety infrastructure, in…
[Перевод] Как мигрировать 1 млн строк кода с одного языка на другой за 2 недели
До недавнего времени миграции кода, при которых рабочую кодовую базу переносят на новый язык, занимали несколько лет. За последний месяц отдельные р…
Нейронки опрокинули гипотезы, которым было по 50–90 лет. И тут есть нюанс
Любая гипотеза жива ровно до тех пор, пока о ней не спросят языковую модель в правильном настроении. Звучит как шутка. Но за последние недели эта шу…
Anthropic says Claude accidentally hacked real companies too
Anthropic just realized several of its Claude AI models hacked into the systems of three different organizations during testing, acting on their own…
Secret Claude tracker shocks users after Anthropic’s anti-surveillance stance
Anthropic accused of spying on users; engineer says “experiment” is over.
After spooking Trump into safety testing, Anthropic AI models get global release
US lifts curbs on Anthropic’s advanced Fable and Mythos models.
Encryption, spyware, and now Mythos: History shows why cyber export control doesn’t work
For the last 30 years, stopping the flow of cybersecurity-related software has proven to be ineffective. It's unclear why it would work now with Ant…
Гайды Anthropic для Fable 5 и Opus 4.8 советуют противоположное, у OpenAI — третий путь. Что менять в промптах
Когда вышел Claude Fable 5, я его подключил — и он мне не понравился. Модель объективно сильнее Opus 4.8, а работать с ней было хуже: в одном ране а…
Гайды Anthropic для Fable 5 и Opus 4.8 советуют противоположное, у OpenAI — третий путь. Что менять в промптах
Когда вышел Claude Fable 5, я его подключил — и он мне не понравился. Модель объективно сильнее Opus 4.8, а работать с ней было хуже: в одном ране а…
[Перевод] Я сжёг недельный лимит Claude за 24 часа и придумал этому слово
Расскажу как было. Fable — новая модель Claude, у которой был открытый доступ. Я её ждал и заранее не тратил недельный лимит на другие модели, копил…
Agent Team в Claude Code: когда одного агента в терминале уже не хватает
Claude Code умеет запускать не одного агента, а целую команду: одна сессия становится координатором (team lead), остальные — независимые тиммейты со…
SpaceX, Anthropic, and OpenAI’s hot IPO summer
The IPO market is back, and it’s not the same companies leading the charge. FAANG had a good run, but a new acronym i…
Сотня параллельных субагентов бесполезна, если они врут. Главная цифра Opus 4.8 — не бенчмарк, а честность
28 мая Anthropic выпустила Opus 4.8 — через 41 день после 4.7, каденс релизов сжался с трёх месяцев до шести недель. Цена та же, $5/$25 за миллион т…
256 зелёных тестов на нерабочем коде. Так выглядит «услужливый клерк» внутри нейросети
В прошлых статьях я писал про то, что нейросеть ускоряет конвейер, но не несёт ответственности. Что лояльность дирижёра — единственный мультипликато…