Qwen3.8. MTP и тензорный параллелизм в llama.cpp: 75 ток/сек на двух RTX 3090
Плотная 27-миллиардная модель на двух RTX 3090 в llama.cpp из коробки даёт 32 токена в секунду. Интуитивно понятно, что это не предел: две карты по…
Latest News
⚑ Report a ProblemTech news from the best sources
All topics
- Искусственный интеллект, машинное обучение, нейросети
- Новости сети
- автомобили, мотоциклы, транспортные средства
- вирусы, трояны, уязвимости в ПО, вопросы безопасности
- игры
- космос
- мобильные телефоны, смартфоны, сотовая связь, коммуникаторы, КПК
- модули ОЗУ, карты памяти, флеш-накопители, кардридеры
- на острие науки
- процессоры
LLM
ai
ai-агенты
claude
devops
llm
open source
python
ruvds_статьи
Статьи
автоматизация
ии
ии-агенты
информационная безопасность
искусственный интеллект
машинное обучение
нейросети
программирование
тестирование
управление проектами
LLM уверенно врёт про ваш микроконтроллер
Попросил ИИ написать прошивку для платы с экранчиком. Код идеальный: скомпилировался с первого раза, залился без ошибок. А на экране - цветной шум.…
Qwen3.8-Flash-Next и важность прогона бенча в три раза на конфиг
Новая архитектура Qwen4 против продакшн-27B на трёх прогонах и назойливая ошибка в собственной документации про NVFP4A16. Переходим с 3.8-27B на Nex…
[Перевод] Этот MCP-сервер можно было бы уложить в файле JSON
Сейчас много говорят о серверах стандарта MCP (протокол контекста модели) . Идея проста: учим большие языковые модели (LLM) взаимодейств…
Зеркало для людей. Как я сделал читаемую версию форума, на котором общаются только ИИ-агенты
Существует форум, на который вас не пустят. Не потому что закрытый — регистрация там всего в один POST-запрос. Вас просто н…
Как мы внедряли цифровых сотрудников в поддержку: почему начали с помощника инженера
Я руковожу проектом по внедрению цифровых сотрудников в компании, которая занимается разработкой, внедрением и поддержкой ПО для автоматизации дистр…
Одна среда на шесть компьютеров вместо командной подписки Claude Code
Я настроил свою работу так, что у меня в одной среде - 6 компьютеров. Хочу подробнее описать как у меня устроена командная работа с Claude Code У ме…
Взгляд из редакции: что зарубежные издатели предлагают в 2026 году?
Привет, «Хабр»! На связи руководитель проектов редакции компьютерной литературы издательства «БХВ» @Holmogorov . Уже много лет мы сотрудничаем практ…
Как превратить LLM-разметку в универсальный Spark-пайплайн
TL;DR: мы сделали llm_markup — Spark-приложение для массовой обработки данных через LLM API в существующем Airflow-контуре. Источник данных, промпт,…
AI-ревьюер кода. Ирония судьбы, или С лёгким мердж-реквестом
Привет, Хабр! На связи Оля и Эрик из команды больших языковых моделей ecom.tech . Cегодня мы расскажем, как делали сервис для AI-ревью кода с встраи…
Как мы делали многоуровневую память для корпоративных AI-агентов в VK AI Space
Привет, Хабр. Меня зовут Сергей Врулин, я Team Lead в команде агентов VK AI Space — корпоративной платформы для создания и запуска AI-агентов. В июл…
Как мы делали многоуровневую память для корпоративных AI-агентов в VK AI Space
Привет, Хабр. Меня зовут Сергей Врулин, я Team Lead в команде агентов VK AI Space — корпоративной платформы для создания и запуска AI-агентов. В июл…
Агент написал себе навык и соврал, что тот работает
Я делаю агента, который умеет дописывать себе навыки: упёрся в то, чего не умеет — сгенерировал код, собрал, установил, пользуется. П…
Проверка теории улучшения результата LoRA файн‑тюнинга на «умных» слоях
При LoRA‑дообучении адаптеры обычно применяются ко всем слоям модели, хотя активность разных слоев во время обработки промпта заметно разл…
Разгоняем GateAI — часть 2: бесплатная модель против Claude
В первой части я разогнал GateAI кэшированием, нашёл несколько багов и проверил триаж на DVWA и pyGoat. Теперь решил прогнать те же задачи через бес…
Заголовки товарной кампании Директа — это теги YML-фида: прослойка на Node вместо правки сайта
Товарная кампания и смарт-баннеры Яндекс Директа не дают редактировать текст объявления в интерфейсе. Заголовок Директ берёт из тега <name> то…
ИИ-агент вместо тестировщика: 20 копеек за диалог и причина, почему вас не заменит llm
Привет, Хабр! Меня зовут Никита Хробостов, я QA-инженер в Just AI. Тестирую диалоговые системы: чат-ботов и голосовых ботов, часть из них с обращени…
Мы собрали харнесс из ИИ-агентов — и главной ролью в нём оказалась роль тестировщика
Полгода назад в нашем продукте был один автотест. Сейчас их 878, и заметная часть написана командой ИИ-агентов. Рассказываю, как устроен харнесс из…
Этот искусственный искусственный искусственный интеллект
В начале 1780-х состоятельные парижане отправляли свое белье стираться через Атлантику на Гаити. Дело в том, что, помимо высокой стоимости локальных…
Заканчиваем с англицизмами в русском языке. Принимаем всем инженерным сообществом термин «вибрировать»
Люблю родной русский язык, но слово «вайбкодинг» вообще не лезет на скрепные русские щи. Отныне и навсегда предлагаю всему профессиональному сообщес…
Больше памяти — не значит быстрее: prefill, decode и релиз Apple M5 Ultra
Мы пришли за инференсом? “RTX PRO 6000 обгонит новый Mac Studio почти во всём, кажется что пропускная способность памяти - единственное, где Apple к…
Селф-хост Ornith-1.5 и Qwen3.8: тестирую 18 квантов на одной карте и похоже не покупаю RTX5090
Встала задача - срочно за вечер решить практический вопрос: какой квант ставить на карту и нужна ли мне RTX5090 домой (спойлер: нет, 9B и Q5/Q6 и я…
Весь архив Циолковского, прочитанный машиной: 51 008 листов и точность, измеренная без эталона
Фонд 555 Архива РАН, 51 008 листов рукописей Циолковского, прочитан машиной целиком. Как измерить точность чтения, когда эталона нет,…
Что теперь нужно знать современному LLM-инженеру
Все мы иногда меняем работу. Я вот тоже недавно решил. Походил по собеседованиям и удивился. Спрашивать стали больше, шире, детальнее. Кажется, что…
Агент сказал, что готово, и соврал. Как я поставил над ним судью
Я тимлид, пятнадцать лет в разработке. Последний год мой пет‑проект пишут ИИ‑агенты, а я читаю их отчёты о том, как всё прекрасн…
Все это знают, но молчат
Мой программный агент очень здорово выполнил задачу по внесению новой фичи во фронтенд проекта. Похвалив его, я предложил: — Теперь надо р…
Как мы собрали LLM-пайплайн, который генерирует продуктовые гипотезы
Привет! Меня зовут Иван Одинцв, я продакт-менеджер в команде товарных рекомендаций «Магнита». В какой-то момент мы упёрлись в неприятную стену: кома…
Я отдал языковой модели доступ к продовой панели администрирования. Вот что пришлось построить, чтобы она её не сожгла
Полгода назад я поддерживал TypeScript SDK для одной панели администрирования. Обычная библиотека: сгенерированный из OpenAPI клиент, авто…
RAG‑система для анализа новостей с позиций исторической личности на основе литературных источников «АЙ_Ленин»
Широкое распространение СМИ в сети привело к формированию группы тематических экспертов — лидеров общественного мнения — бл…
Как мы автоматизировали перевод скриншотов в документации
Когда документацию переводят на другой язык, обычного перевода текста недостаточно: на скриншотах тоже остаются кнопки, настройки и подсказки. Расск…