RU

Три закона робототехники, которые никогда не работали. Даже у Азимова

Спросите любого человека, далёкого от робототехники, какие правила должны соблюдать роботы. Девять из десяти вспомнят: робот не может причинить вред…

айзек азимовзаконы робототехникиискусственный интеллектроботехникабезопасность иимашинное обучениеai safetyпромышленные роботыавтономные системыэтика искусственного интеллекта
Habr
RU

GuardRate: как мы построили независимую арену для guardrail-моделей (часть 1)

Всем привет, на связи команда  HiveTrace! Мы уделяем много времени разработке собственных моделей и часто задаемся вопросом: "какой из двух гар…

llmguardrailsguardrail metricsleaderboardevaluationguardrail areanaai safetyprompt-injectionbenchmarkingopen-source
Habr
RU

Как заставить ИИ соблюдать закон, не трогая веса. Выкладываем в открытый доступ внешний фильтр для LLM

В прошлом году я уже рассказывал об AVI (Aligned/Agreement Validation Interface) — концепции внешнего, гибкого и независимого от модели фильтра, кот…

aiai safetyllmфильтралайнментискусственный интеллектгенеративные моделиопенсорскорпоративный иибезопасность ии
Habr
RU

Как заставить ИИ соблюдать закон, не трогая веса. Выкладываем в открытый доступ внешний фильтр для LLM

В прошлом году я уже рассказывал об AVI (Aligned/Agreement Validation Interface) — концепции внешнего, гибкого и независимого от модели фильтра, кот…

aiai safetyllmфильтралайнментискусственный интеллектгенеративные моделиопенсорскорпоративный иибезопасность ии