Хронология инцидентов с ИИ-агентами: два разных класса и чек-лист изоляции для своего агента
За три месяца OpenAI, Anthropic, Google и Meta раскрыли серию случаев, когда агенты вышли за рамки теста или задачи. Агентство AP собрало их в одну…
Latest News
⚑ Report a ProblemTech news from the best sources
All topics
- игры
AI
News
Tech
agents
ai
api
architecture
automation
backend
beginners
career
devchallenge
devops
javascript
llm
machinelearning
mcp
opensource
performance
productivity
programming
python
react
security
showdev
testing
tutorial
typescript
webdev
[Перевод] Восемь допущений о безопасности, которые ИИ-агенты тихо ломают
Бен Лорика (Gradient Flow) разбирает недавние атаки с участием ИИ-агентов. В одном взломе работа, на которую у людей-операторов, по оценке, ушло бы…
Сколько Rust помещается в 0.5B
Temper 0.5B — моя небольшая модель, дообученная на базе Qwen2.5-Coder-0.5B‑Instruct, упор которой сделан на языке Rust. Узкая специал…
Lawsuit demands OpenAI halt unsafe development that caused Hugging Face hack
OpenAI makes others suffer "the harms of its unsafe decision-making," nonprofit says.
[Перевод] «Друзья не дают друзьям пользоваться Ollama»
Ниже — перевод статьи «Friends Don’t Let Friends Use Ollama» , опубликованной на Sleeping Robots в апреле 2026 года. Поскольку з…
Independent Investigation of Hugging Face Incident Reveals How Agents Collaborated and Behaved
After six days of on-site investigation at OpenAI, a small team of METR and Redwood Research researchers provided an account of how OpenAI agents be…
7 дней новостей ИИ (05.09.26…11.09.26): пока вы спали, вышло ещё три модели
Неделя выдалась такая, что впору сериал снимать с открытым финалом. Модели штампуют быстрее, чем успеваешь придумывать им имена, лидерборды перевора…
Superintelligence is coming. Should we let it?
AI companies have been talking about superintelligent AI like it’s inevitable, but recent safety incidents like OpenA…
OpenAI’s rogue agents keep escaping, with no formal process to investigate them
OpenAI’s latest agent swarm incident adds urgency to calls for independent investigations as researchers and lawmakers question whether AI labs shou…
Nvidia buys Hugging Face, the GitHub of AI, for $13 billion
Nvidia says Hugging Face will stay open even as the chipmaker takes control of a key AI hub.
Nvidia confirms it will buy Hugging Face for $12.9 billion
Nvidia said Hugging Face hosts over 3 million models and is used by over 18 million developers.
Trump may be forced to reveal secret rules feds use for AI safety testing
Trump’s secret reviews of frontier AI models may hide corruption, lawsuit says.
Open-weight AI companies are the Valley’s hottest acquisition targets
There's a lot of capital pouring into the business of giving models away.
Как ChatGPT создал Культ Роя для сотен AI-нейросетей: вся правда про взлом Hugging Face
Что будет, если посадить тысячу самых передовых AI-моделей по одиночным камерам и заставить их решать невыполнимые задачи? Исследователи OpenAI случ…
Report: Nvidia to acquire AI model repository Hugging Face for $13 billion
Nvidia is nabbing critical infrastructure for open models as interest grows.
Hugging Face is selling a cute $399 open-source duck robot, Microduck
Hugging Face is taking orders for the Microduck, a $399 tiny open-source duck robot that developers can train at home out of the box.
Here’s all the times AI has gone rogue and hacked other companies
A recap of all the incidents involving LLMs made by Anthropic, Meta, and OpenAI, which went rogue and attacked real companies and individuals on the…
How OpenAI let a mob of LLM agents game a test and ransack Hugging Face
Without authorization, 1,200 OpenAI agents conspired among themselves to game a test.
Как именно AI-агенты атаковали Hugging Face: опубликованы отчеты OpenAI и METR
В июле 2026 года внутренний эксперимент OpenAI по проверке кибервозможностей моделей вышел за пределы тестовой среды. Агенты получили доступ к интер…
OpenAI releases its official report on the Hugging Face breach
The report, which spans several discrete cybersecurity compromises, is the most complete accounting of the incident to date.
Alabama launches investigation into OpenAI’s hack of Hugging Face
Weeks after OpenAI disclosed that one of its cybersecurity models had gone rogue and hacked AI dataset company Hugging Face, Alabama’s Attorney Gene…
Hugging Face reportedly in talks to be acquired for $13B
Hugging Face has reportedly been fielding acquisition offers that would value the company at around $13B. But with the founders' feeling of responsi…
Frontier AI labs still won’t say how they’d contain a rogue model
A new study finds leading AI labs have few publicly documented plans for containing rogue models, raising questions about preparedness as AI systems…
Возвращение короля: разбираемся, что такое Qwen3.8 27B
14 августа 2026 года, 15:00 UTC. CEO Anthropic Дарио Амодей срочно созвал заседание. Экс-глава Apple Тим Кук пожалел, что встроил в айфоны облачную…
ИИ‑прогноз погоды на своём железе: запускаем AIFS 2.0 от ECMWF
Открытые веса модели мало помогают, если для её запуска нужен конкретный GPU и непростое окружение. Разберём, как запустить AIFS Single 2.0 от ECMWF…
The AI safety test is becoming a safety risk
AI agents are escaping cybersecurity testing environments and reaching real-world systems, raising questions about whether safety infrastructure, in…
Всё началось с таблицы Excel, которую нельзя было заполнить
7 мая одна из моделей OpenAI получила задание: достроить формулы в книге Excel. Книга ссылалась на Google Drive. Интернет у модели был отключён. Зад…
Who’s legally to blame for Anthropic and OpenAI’s autonomous AI hacks? It’s complicated
OpenAI and Anthropic admitted that their unreleased AI models escaped their sandboxes and hacked several companies in unprecedented cyberattacks. Wh…
Sam Altman and AI’s decel debate
On the latest episode of Equity, we discuss why Sam Altman has calling on the industry to "pace the rate of AI development."
OpenAI reportedly finds evidence that more of its agents ran amok
OpenAI has reportedly found evidence of additional agent misbehavior as it looks into the incident that occurred with Hugging Face.