Лимиты ChatGPT и локальные LLM: мой эксперимент с Hermes Agent
Проверил, можно ли разгрузить Hermes Agent с помощью локальных LLM на домашнем ПК с RTX 3080 и 32 ГБ RAM. Сравнил Qwen и GLM на архитектурных задача…
Latest News
⚑ Report a ProblemTech news from the best sources
All topics
- игры
AI
News
Tech
agents
ai
api
architecture
automation
backend
beginners
career
devchallenge
devops
javascript
llm
machinelearning
mcp
opensource
performance
productivity
programming
python
react
security
showdev
testing
tutorial
typescript
webdev
Офлайн-ИИ в десктопном приложении: что я узнал, встраивая Ollama в лаунчер для трёх ОС
Я делаю Lumi, открытый лаунчер в духе Spotlight: по горячей клавише открывается строка, в которой можно запустить программу, найти файл или задать в…
Вместе с Claude сделал бесплатный Spotlight с ИИ для Mac и Windows: ищет файлы и отвечает на вопросы в одной строке
Каждый день я делал одно и то же: открывал Spotlight, чтобы найти файл или запустить программу, а потом лез в браузер, открывал вкладку с ИИ и встав…
Домашний ИИ и пути развития: одна Tesla V100 32 ГБ в 2026 году
Старая серверная карта Tesla V100 на 32 ГБ до сих пор стоит как одна современная видеокарта среднего класса, а памяти у неё столько, что в неё целик…
Агентный поиск на open-source моделях: кого нашёл, сколько потратил и где всё сломалось
У меня давно была одна идея: хочу сделать свой агентный поиск на открытых моделях и со своим контролем над источниками. Не чтобы сэкономить на подпи…
Как запустить Gemma на сервере: сравниваем Ollama и llama.cpp
Откройте любую статью-инструкцию по установке LLM, в которой фигурирует Ollama. Уверен, в комментариях к ней автору уже объяснили, насколько он непр…
Как я несколько часов гуглил, чтобы потом за 15 минут запустить локальный DeepSeek для Python и SQL
Полгода назад мне понадобился личный AI помощник ( знаю...звучит слишком пафосно и мне самому это словосочетание не нравится ) для р…
Своя нейросеть дома, доступная из любой точки мира
Личный LLM-сервер на своём железе: без подписок, без лимитов токенов, один адрес и c дома, и с работы, и с телефона. Читать далее
Собираем приватный RAG-стек на pgvector
Собираем приватный RAG-стек на pgvector, где документы, поиск и генерация ответа остаются внутри вашего VPS. Разберём схему стенда, embeddings, pgve…
[Перевод] «Друзья не дают друзьям пользоваться Ollama»
Ниже — перевод статьи «Friends Don’t Let Friends Use Ollama» , опубликованной на Sleeping Robots в апреле 2026 года. Поскольку з…
Подключил локальную Gemma к Codex, чтобы экономить лимит. На простой задаче расход вырос вдвое
У меня MacBook Pro 16 2019 года: шестиядерный Intel Core i7, 16 ГБ оперативной памяти и Radeon Pro 5300M с 4 ГБ VRAM. На нём уже стояли Ollama, gemm…
Codebase Intelligence для агента: строим «dev tool будущего» и сразу тестируем на Rails монолите в 3,5M+ строк
Сгенерированная картинка для привлечения внимания. Промпт: «Продемонстрируй, что всё новое — это хорошо забытое старое» (нет) За последний год инстр…
Запустить LLM локально: что считать до покупки видеокарты?
Мощная видеокарта не всегда означает быстрый локальный запуск LLM. Разбираемся, почему GPU может простаивать, как на производите…
Когда разработчики ленятся писать документацию: описываем клиентский API силами нейросетей
Документация устаревает быстрее, чем код успевает писаться? Рассказываем, как мы построили конвейер из Python-скриптов и нейросетей, который сам нах…
Я хотел просто навести порядок в Obsidian. В итоге написал два индекса, semantic search и RAG
Я начинал с простого AI-аудита заметок, а в итоге Vault Audit AI вырос в систему с двумя индексами, поиском по смыслу, Similar Notes, semantic dupli…
Я распознал паспорт. Чем я могу это доказать?
Система работает и разбирает документы. Претензия у меня к ней одна, зато неустранимая изнутри: я не могу доказать ни одно из полученных значений. Н…
AI-ассистент в десктопном EDA: tool-calling, детерминированный роутер и локальный RAG на BGE-M3
Инструмент работает с топологией: GDSII/OASIS и LEF/DEF, верификация DRC/LVS/PEX (зазоры, сверка со схемой, паразиты), список нарушений. Типичный во…
Garmin записывает всё. ChatGPT — ничего. Разрыв длиной в один вечер и один скрипт
Garmin записывает почти всё: сон, HRV, стресс, Body Battery, пульс на тренировке, каждый подход в зале. ChatGPT ничего этого не видит. Чтобы спросит…
Я научил Obsidian искать по смыслу. Как устроен локальный семантический индекс без отдельной векторной БД
В комментариях к прошлой статье мне написали примерно следующее: граф связей выглядит красиво, но хороший поиск по заметкам полезнее. Спорить было т…
Один интерфейс — девять LLM-провайдеров: как мы подружили Kimi K3, GLM-5.2, Claude и Ollama в одном терминальном агенте
Привет, Хабр! Я делаю execai — терминальный AI-агент на Go (bubbletea), в духе Claude Code. Он читает файлы, гоняет shell-команды, ходит в kubernete…
Как я собрала локальную MCP-платформу для мониторинга промышленных данных
Что получится, если собрать PostgreSQL, Airflow, JupyterLab, MinIO, Superset, шесть MCP-сервисов и локальную модель Ollama в одном Docker Compose-ст…
«Свой» уходит в опенсорс: вайб-темы, RAG поверх шифра и объектив, который знает контекст
Свой open source ИИ-ассистент. Ассистент - который помнит вас между разговорами - ищет по вашим документам и по вебу - умеет планировать - работать…
Теги реакций и собираемый промпт: как удержать характер ИИ-персонажа по ходу диалога
Вектор диалога с LLM плывёт каждый ход, и к концу разговора персонаж уже не тот. Рассказываю, как я это чиню в своём движке: классификатор выбирает…
Локальная RAG-система на Go, PostgreSQL и Ollama без облачных API
RAG уже стал стандартным способом научить LLM работать с собственными документами без дорогостоящего дообучения. Но за кажущейся простотой скрываетс…
Сотрудники сливают данные в чужой ИИ. Разбираемся чем это грозит
За последний год я провёл серию корпоративных тренингов по использованию ИИ для рабочих офисных задач — в разных по ра…
Как заставить LLM проанализировать хранилище из тысяч заметок, которое не влезает в контекст
У меня в Obsidian накопилось под две тысячи заметок. Ежедневники, конспекты, обрывки идей, недописанные черновики. Граф‑вью честно по…
Кто ворует ваш GPU: атаки на открытые LLM-эндпоинты (Ollama, llama.cpp) — и при чём тут кража облачных ключей
Коротко тезис: открытый Ollama — это бесплатный GPU для атакующего , и охота за таким compute давно поставлена на поток. Но за май наша сеть ханипот…
PewDiePie: разбираю self-hosted AI-workspace, который собрал 47 тысяч звёзд за пару дней
PewDiePie последние полтора года ушёл из развлекательного контента в технику: домашний сервер, локальные LLM, self-hosting. Результат — репозиторий…
Как я сделал локальный RAG-сервис для SRE: ищем по документации, ранбукам и коду через Ollama
Недавно делал учебный проект про автоматизацию документирования инцидентов. Поначалу планы были грандиозными: инциденты, таймлайны, интеграции с мон…
Почему RAG — это не просто «добавить поиск»: latency, качество и выбор стратегии retrieval
Когда говорят про RAG, его часто описывают как простой способ улучшить LLM‑систему: добавить поиск по внешним данным, найти релевантн…