RU

Важен ли интеллект в промышленном дизайне?.. или как спалить клиента

Я пишу вам эти строки из горящего дома - примерно так могла бы начинаться эта статья, если бы я слепо следовал инструкциям на упаковке. Сегодня мы р…

попкорндизайнинтерфейспромышленный дизайнпожарбезопасность451 градус по фаренгейтулогикаимпортозамещениекрафт-пакет
Habr
RU

Моё исследование средств выявления уязвимостей в скиллах

Пока делал CEO AI (моё виденье помощника в работе), решил проверить, можно ли использовать сканеры для проверки скиллов перед подключением. Собрал 1…

безопасностьии помощникииskills для ai-агентовбезопасность данныхии-ассистентсканирование уязвимостейисследованиесезон код будущего
Habr
RU

29 439 возможных уязвимостей, 6 157 отчётов мейнтейнерам, 516 исправлений: Anthropic сканирует open source проекты

Из 6 157 отчётов, которые Anthropic передала мейнтейнерам open source проектов, исправлено 516: это 8,4%, а не 516 из 29 000, как читается заголовок…

уязвимостиopen sourceAnthropicClaudeOSS ScannerCVEбезопасностьмейнтейнерыLLMтриаж отчётов
Habr
RU

Скам расправил плечи: как ИИ открыл возможности для мошенников в ИТ-найме

Сейчас в ИТ-сфере довольно турбулентно и непредсказуемо: экономическая нестабильность, массовые увольнения, сокращение общего числа вакансий, повсем…

безопасностьбезопасность в сетифронтендфронтенд-разработканаймскам
Habr
RU

Как построить систему безопасности для AI-платформы в эпоху новых вызовов и угроз

В этой статье мы рассмотрим подход, когда безопасность в сервисе, это не просто набор компонентов, а целостная система и огранизм, сочетающий в себе…

агентызащитабезопасностьшифрованиекибербезопасностьиифайерволкомплаенсстандартысезон код будущего
Habr
RU

CTEM без хайпа: что стоит за модной аббревиатурой Gartner и зачем она вам

CTEM - на каждой конференции, но мало кто объясняет просто. Разбираем непрерывное управление экспозицией как “зонтик” над всеми практиками: управлен…

уязвимостиvmpatchitпроцессысканеры уязвимостейиббезопасностьимпортозамещениефстэк
Habr
RU

[Перевод] Как применять практики безопасности OpenTelemetry в легаси-системах

OpenTelemetry всё чаще используют в легаси-системах, потому что компании открывают для себя современные инструменты для организации наблюдаемости (o…

opentelemetryнаблюдаемостьмониторингбезопасностьтелеметриялегаси-системы
Habr
RU

Почему нельзя запретить сотрудникам иностранные нейросети: вопросы о безопасности ИИ для бизнеса

Сотрудники российских компаний активно используют нейросети для решения рабочих задач, делают пилотные внедрения, проверяют гипотезы и... таким обра…

aiиибезопасностьискусственный интеллект
Habr
RU

Город под новым воздушным слоем: общественные опасения, доверие и социальная приемлемость аэротакси и AAM/UAM

Рассматривается другая, «неозвучиваемая» сторона AAM/UAM‑технологий и, в частности, аэротакси, в контексте так называемых «общественных оп…

Аэротаксиавиацияновые технологииаэромобильностьбезопасностьсоциальная инженерияобществообщественный транспортподготовка персонала
Habr
RU

Я написал сканер уязвимостей для вайбкода и проверил им 3 800 чужих репозиториев

Сегодня Telegram-бот для продажи VPN собирается за вечер: Cursor, пара промптов, и он уже принимает деньги. Только в config.py лежит токен бота, Pos…

AigisSASTSASTбезопасностьвайбкодингутечки секретовTelegram-ботыPythonopen sourceDevSecOpsAI-generated code
Habr
RU

Проверка боем: автопентест, BAS и как AI обогнал людей в поиске уязвимостей

Дашборд зеленый - но дойдет ли реальный злоумышленник до цели? Раз в год пентеста мало. Разбираем автопентест и BAS - непрерывную проверку защиты, р…

уязвимостиpatcvmitпроцессысканеры уязвимостейбезопасностьибимпортозамещениефстэк
Habr
RU

Confidence ≠ Permission: почему я не разрешаю LLM самостоятельно принимать решения

LLM может быть уверена в своём ответе, но это ещё не означает, что системе разрешено выполнять действие. В AI Career I…

LLMискусственный интеллектAI-агентыTelegramPythonархитектураdecision layerавтоматизацияpolicyбезопасность
Habr
RU

Почему „ты — моя бабушка“ работает с ИИ? Анатомия джейлбрейка и решение проблемы

Статья Podsonuh’a Что такое JailBreak-атаки …  вдохновила меня задать следующий вопрос: – Неужели искусственный интеллект настолько глуп, что е…

ииии и машинное обучениеии чат-ботjailbreakjailbreakingархитектура систембезопасностьии-модель
Habr
RU

Вайбкодинг: запретить нельзя возглавить

Четыре месяца назад мы разрешили коллегам без инженерного бэкграунда выкатывать в прод приложения, которые им пишет ИИ-агент. После этого получили б…

вайбкодингllmии-агентыуправление разработкойпесочницабезопасностьбезопасная разработкаdockerавтоматизациягенерация кода
Habr
RU

Я сказал агенту сделать ревью кода, а он пропустил в кодовую базу инъекцию. Насколько это реально и как защищаться

Чем дольше я пользуюсь ИИ агентами, тем ленивее я становлюсь. Сперва ИИ писал мне отдельные небольшие кусочки кода. Потом стал писать весь код, а&nb…

ревью кодаaiбезопасностьэкспериментсезон код будущего
Habr
RU

Почему ИИ опасен для психически уязвимых: разбор механизма

Мораль можно представить в виде набора правил и установок, помогающих создать наиболее благоприятные условия для полного, эффективного и положительн…

ИИнейросетиLLMпсихологияэтикасикофантиябезопасностьчеловек и машинакритика ИИсезон код будущего
Habr
RU

EASM: посмотреть на свой периметр глазами атакующего и найти забытый сервер 11-летней давности

Злоумышленники знают о вашей внешней поверхности атаки больше, чем вы сами. Забытые тестовые серверы, открытые базы, поддомены старых акций - все эт…

уязвимостиpatchvmitбезопасностьпроцессыибимпортозамещениесканеры уязвимостейфстэк
Habr
RU

«Мы больше не можем это взломать»: как Anthropic похоронила промпт-инъекции, но забыла про особенности AI-агентов

В конце июля, среди множества новостей о Claude Opus 5, я увидел интересный пост создателя Claude Code Бориса Черного. Он рассказывал, что новая мод…

aiбезопасность ии агентовai agentsai agent securityбезопасность
Habr
RU

YApi заброшен с 2022 года. Я продолжил его и нашёл токены, которые может подделать любой участник проекта

YApi — платформа документации API, мок-сервера и тестов с 27 тысячами звёзд — не обновлялась с 2022 года. На новом Node.js у неё ломаются токены, кл…

yapiapimock-серверnode.jsmongodbisolated-vmmanifest v3безопасностьself-hostedopen source
Habr
RU

Flowise закрыли, я его форкнул — и выяснил, что форкать было нельзя

Flowise — визуальный конструктор для LLM-приложений: перетаскиваете на холст модель, векторное хранилище, инструменты и память, соединяете их линиям…

flowisellmai-агентыlangchainself-hostedopen sourceлицензииtypeormбезопасностьdocker
Habr
RU

Как найти лишние процессы, открытые порты и подозрительные соединения на VDS

Эта статья для вас, если в top вы обнаружили десятки незнакомых процессов, которые нагружают ЦП и память. И точно для вас, если среди них слишком мн…

VDSLinuxбезопасностьсистемное администрированиепроцессыSSHsslsofруткитыruvds_статьи
Habr
RU

Закрыли все CVE и оставили admin:admin: зачем VM-специалисту комплаенс

Можно закрыть все уязвимости и быть взломанным через стандартный пароль. Разбираем, что такое комплаенс в ИБ, почему в России он стал жестче и дорож…

patchitvmcomplianceпроцессыфстэкимпортозамещениебезопасностьибуязвимости
Habr
RU

Веб‑кошелёк Monero на официальном monero‑wallet‑rpc: digest‑авторизация, двухфазная отправка и BigInt вместо float

Как‑то я захотел кошелёк Monero с нормальным веб‑интерфейсом, но без компромиссов по ключам: чтобы он работал на моей машин…

moneroxmrmonero-wallet-rpcnode.jstypescriptjson-rpcself-hostedбезопасностьbigintкриптокошелёк
Habr
RU

Закрыли все CVE и оставили admin:admin: зачем VM-специалисту комплаенс

Можно закрыть все уязвимости и быть взломанным через стандартный пароль. Разбираем, что такое комплаенс в ИБ, почему в России он стал жестче и дорож…

patchitvmпроцессыфстэкимпортозамещениебезопасностьибcomplianceуязвимости
Habr