Хронология инцидентов с ИИ-агентами: два разных класса и чек-лист изоляции для своего агента
За три месяца OpenAI, Anthropic, Google и Meta раскрыли серию случаев, когда агенты вышли за рамки теста или задачи. Агентство AP собрало их в одну…
Testing & QA
⚑ Report a ProblemLatest Testing & QA news from Tech News
All topics
agents
ai
api
architecture
automation
backend
beginners
career
claude
cybersecurity
devchallenge
devops
discuss
javascript
llm
machinelearning
mcp
node
opensource
performance
productivity
programming
python
security
showdev
softwareengineering
testing
tutorial
typescript
webdev
Как использовать ChatGPT, чтобы получить 360 сертификатов по искусственному интеллекту за один день
Я отправил ИИ-агента проходить онлайн-курсы OpenAI, Anthropic, Google. Через 6-30 минут тесты сданы на 10 из 10 баллов, и готов сертификат на мое им…
ChatGPT for Teens keeps teens talking, even during mental health crises
ChatGPT’s teen safeguards are meant to protect vulnerable users, but new testing found the chatbot continues encouraging engagement during crises an…
как OpenAI, Anthropic, Google и xAI борются за модели, облака и разработчиков
OpenAI, Anthropic, Google и xAI уже конкурируют не только качеством моделей. Настоящая борьба идёт за вычислительные мощности, собственные чипы, при…
OpenAI is sticking more ads in ChatGPT
OpenAI's latest ad format will put images of sponsored products and services on your screen. The ads, which OpenAI will begin testing in the US late…
The AI Tamagotchis are coming
While AI has made plenty of inroads on people's phones and computers, it's largely failed in dedicated devices. But over the next year, two major AI…
Год назад мы обсуждали, смогут ли ИИ-агенты взламывать сайты. Теперь считаем инциденты
За несколько месяцев агенты OpenAI и Anthropic вышли за пределы тестовых сред, скомпрометировали инфраструктуру Hugging Face, получили доступ к prod…
OpenAI apologizes to Australia after its AI agents breached government sites
The company also detailed how some of those breaches had happened, and outlined additional measures it is taking to assess the impact of the events.
Массовая утечка кода, старина лИИнус, а также релизы Jev и Opus 5.5
22-й выпуск IT-новостей от OpenIDE ! Линус Торвальдс заставил ИИ искать баг в Linux, хотя тот несколько раз предлагал сдаться. OpenAI заявила о реше…
Is Big Tech’s AI slowdown a safety pact or a cartel?
When OpenAI CEO Sam Altman, Anthropic CEO Dario Amodei, Google DeepMind cofounder Demis Hassabis, and SpaceX head Elon Musk loosely agreed over the…
Researchers fear safety disaster ahead of OpenAI’s Astra release
OpenAI is on the cusp of releasing its most powerful AI model yet, Astra, following weeks of delays to shore up safety protocols after its agents at…
ChatGPT to face tougher regulation in the EU
OpenAI will soon be held accountable for mitigating risks related to ChatGPT's impact on minors, user mental health, and the spread of illegal conte…
Сериал «Чёрное зеркало» всё меньше похож на фантастику: странные случаи с ChatGPT и что за ними стоит
Пользователи слышат из ChatGPT собственный голос, внезапные крики и плач. Некоторые из этих историй звучат как байки с Reddit, но похожие сбои OpenA…
Одна строка в системном промпте отключала кеш целиком. 1% против 98% на живых вызовах
Токен, прочитанный из кеша, стоит не «немного дешевле». Он дешевле в 10–31 раз : DeepSeek — $0.44 против $0.014 за миллион, OpenAI — $4.00 против $0…
Barret Zoph, the Thinking Machines co-founder who defected to OpenAI, is now at Google
Zoph, who co-founded Thinking Machines Lab alongside Mira Murati and also served as the startup's CTO, led a brief stint at OpenAI and is now at Goo…
OpenAI subpoenaed by Alabama AG over Hugging Face hack
Alabama's attorney general issued a subpoena to OpenAI on Monday as part of an investigation into how one of its AI agents escaped a supposedly secu…
Новый голосовой режим ChatGPT на GPT-Live-1: возможности, проблемы и лайфхаки
В июле 2026 года OpenAI заметно изменила голосовой режим ChatGPT и запустила GPT-Live-1 — модель для более естественного разговора в реальном времен…
The AI safety test is becoming a safety risk
AI agents are escaping cybersecurity testing environments and reaching real-world systems, raising questions about whether safety infrastructure, in…
Presentation: Keeping ChatGPT Fast as AI Development Accelerates
Martin Spier explains how agentic workflows dramatically increase code change volume at OpenAI. He discusses the hidden systemic performance costs o…
Нейронки опрокинули гипотезы, которым было по 50–90 лет. И тут есть нюанс
Любая гипотеза жива ровно до тех пор, пока о ней не спросят языковую модель в правильном настроении. Звучит как шутка. Но за последние недели эта шу…
Anthropic says Claude accidentally hacked real companies too
Anthropic just realized several of its Claude AI models hacked into the systems of three different organizations during testing, acting on their own…
Как тестировать ИИ-агентов, если «правильно» не детерминировано
GitHub построил Trust Layer для Copilot-агентов: валидация по ключевым состояниям вместо жёстких скриптов. Узнайте, как снизить ложные падения CI. —…
Стало известно, как ИИ‑агент OpenAI сбежал и взломал Hugging Face. Дыра нашлась в софте JFrog
В истории о том, как две модели OpenAI “сбежали” во время тестирования и взломали Hugging Face, появилась новая важная деталь. Д…
ИИ-агент собрал сам себя: эксперимент с LangChain4j и уроки для Java-разработчиков
LLM по документации LangChain4j собрала клона себя — мультиагентного кодера. Он починил баги, прошёл 11 тестов и показал, почему workflow быстрее su…
Готовит ли OpenAI новую революцию в IT?
Некоторое время назад появилась новость, что Сэм Альтман и Джонни Айв начали совместный проект. Тогда практически ничего не сообщалось о том, что им…
How an OpenAI’s human mistake led to the AI-powered hack on Hugging Face
OpenAI made a mistake setting up what it called a “highly isolated” testing environment and sandbox. According to cybersecurity experts, that human…
OpenAI says it accidentally hacked Hugging Face with a new AI system
OpenAI says its AI models mistakenly breached open-source AI platform Hugging Face during internal testing. In a blog post on Tuesday, OpenAI writes…
OpenAI says Hugging Face was breached by its pre-release models
OpenAI has come forward to claim responsibility for the Hugging Face breach, saying it was the result of internal testing gone awry.
OpenAI says Hugging Face was breached by its own pre-release models
OpenAI has come forward to claim responsibility for the Hugging Face breach, saying it was the result of internal testing gone awry.
The 6 wildest claims in Apple’s lawsuit against OpenAI
When Apple employees interviewed for jobs at OpenAI, the AI startup's hardware head allegedly asked them to show up with something unusual: componen…