Локально ≠ безопасно: как скачанные ИИ-модели и LoRA-адаптеры крадут пароли, ключи и деньги
Заметки разработчика мультимодальной ИИ-студии с распределённой сетью вычислений - о бэкдорах в квантованных моделях, supply-chain атаках и том, поч…
Tech news from the best sources
Заметки разработчика мультимодальной ИИ-студии с распределённой сетью вычислений - о бэкдорах в квантованных моделях, supply-chain атаках и том, поч…
В первой статье я показал несколько опытов с небольшой моделью (её размер влезает в обычную домашнюю видеокарту) вокруг одного вопроса: может ли так…
Немалую долю задач в бизнесе, где применим ИИ можно свести к выбору варианта ответа на тот или иной вопрос, например, куда направить обращение, кто…
Привет, Хабр! В эфире руководитель проектов компьютерной редакции издательства «БХВ» @Holmogorov и сегодня я хотел бы поговорить о будущем, вернее о…
Каждый день мы интересуемся погодой — смотрим, идёт ли дождь, какая температура на улице, сильно ли дует ветер. Однако есть ещё один важный параметр…
Привет, Хабр! На связи Ангелина Большина, Денис Толкачев и Игорь Буянов, команда Customer Support NLP, мы разрабатываем ботов для службы поддержки к…
Привет, Хабр! На связи Ангелина Большина, Денис Толкачев и Игорь Буянов, команда Customer Support NLP, мы разрабатываем ботов для службы поддержки к…
Я всегда хотел иметь свою систему: свои приложения, в которых можно изменить что угодно, а не что-то чужое, что завтра могут поменять. Так появился…
При LoRA‑дообучении адаптеры обычно применяются ко всем слоям модели, хотя активность разных слоев во время обработки промпта заметно разл…
В предыдущей статье я рассказывал о том, как предоставить удалённый доступ к данным измерений метеостанции с помощью модулей Heltec Automation HTIT-…
Генерация красивых единичных артов давно перестала быть проблемой. Но как только возникает прикладная задача — например, сделать…
Группа точек мониторинга орошения, распределённых в горной местности, днём нагревается на солнце, а ночью остывает — суточный перепад температур мож…
Всем привет! Мы два 19-летних студента второго курса из Казахстана. В свободное от учёбы время мы развиваем DreamForge — собстве…
TL;DR. Из интереса обучил собственный русский RAG‑сплиттер — захотелось проверить, можно ли сделать context‑aware‑нарезку русск…
Собрал автономный радиоузел на заборе с солнечной панелью — связь без интернета заработала. Решил добавить метрики энергопотребления…
FLUX.2 [klein] достаточно компактна, чтобы дообучать её на одной потребительской видеокарте. Прогон обучения LoRA для 4B-модели укладывается в 24 ГБ…
У меня была видеокарта NVIDIA A100, максимальный объём памяти 79,254 Гб. Нужно было извлечь ключевую информацию (задача Qwestion Answering) из 6000…
Вся эта возня по раздуванию популярности Meshtastic - как дешёвые бусы для папуасов: высокая доступность чипа (цена), приличные характеристики чипа…
Моделирование спутниковых систем связи в симуляторе компьютерных сетей NS-3 с использованием модуля Satellite . Читать далее
Две недели мы пытались обогнать собственную базу. Файнтюном. Потом ещё раз файнтюном на переделанном корпусе. Потом — RAG. Все три раунда база выигр…
Обзор будущего продукта. Distributed Occupancy Intelligence Platform - это распределённая система мониторинга и аналитики присутствия людей в здания…
Большие языковые модели требуют огромных объёмов памяти. Например, модель с 8 миллиардами параметров в формате FP16 занимает 24–27 ГБ памяти только…
Обычно Meshtastic используют как мессенджер. Я применил его как резервный канал связи с удаленным объектом. Задача простая: есть дача с регуля…