RU

[Перевод] Следующей компанией с оценкой $1 трлн станет разработчик софта под видом продавца услуг

Привет! Меня зовут Саша Журавлев. Я основатель и управляющий партнер венчурного фонда Mento VC. Мы инвестируем в технологические стартапы в США, Велик…

AI-автопилотыAI-ассистентыискусственный интеллектSequoiaвенчурные инвестицииSaaSAI-агентыстартапыбизнес-моделирынок услуг
Habr
RU

Системный промпт или галлюцинация: как я проверял AI-ассистентов и что ответили bug bounty-команды

В марте я проверял, можно ли уговорить AI-ассистентов выдать что-то похожее на системный промпт. Ответы выглядели убедительно: внутренние правила, тех…

AI-ассистентысистемный промптгаллюцинацииbug bountyобход ограниченийуязвимостиинформационная безопасностьязыковые моделиАлисаGigaChat