RU

Человечество, ослепленное чуждой силой. Что сверх-ИИ грядущий нам готовит?

К вопросу, выживет ли вообще человечество в эпоху ИИ и каким образом, я, признаюсь, подбирался не торопясь и обстоятельно: в предыдущих статьях разо…

искусственный интеллектAGIсверхинтеллектAI Safetyбезопасность ИИмашинное обучениеИИ-агентыавтоматизацияэтика ИИбудущее человечества
Habr
RU

Эпистемические ловушки для автономных ИИ-агентов в пространстве правдоподобных интерпретаций

Дисклеймер: это наша разработка (HYBRA Research Group), не сторонний анализ. Публикуем, чтобы получить объективную критику от сообщества. Любая атак…

эпистемическая ловушкаHYBRA MIRAGEавтономные ИИ-агентыAI Safetyпосткавантовое шифрованиеверификационный оракулadversarial AIplausible deniability
Habr
RU

Самая опасная ошибка AI‑агента — не плохой код

За последний год вокруг AI-агентов сформировался довольно устойчивый набор ожиданий. Нам обещают всё более умные модели, всё более длинные контекстн…

AI AgentsLLMAgentic AIAgent MemoryAI GovernanceAI SafetyHuman in the LoopContext EngineeringCapability-Based SecurityAgent Workflow