RU

Как я несколько часов гуглил, чтобы потом за 15 минут запустить локальный DeepSeek для Python и SQL

Полгода назад мне понадобился  личный AI помощник ( знаю...звучит слишком пафосно и мне самому это словосочетание не нравится ) для р…

OllamaDeepSeekLLMлокальный AIPythonPandasSQLWindowsлокальные модели
Habr
RU

Я хотел просто навести порядок в Obsidian. В итоге написал два индекса, semantic search и RAG

Я начинал с простого AI-аудита заметок, а в итоге Vault Audit AI вырос в систему с двумя индексами, поиском по смыслу, Similar Notes, semantic dupli…

ObsidianVault Audit AIRAGsemantic searchembeddingsLLMTypeScriptvector searchknowledge managementOllama
Habr
RU

Я научил Obsidian искать по смыслу. Как устроен локальный семантический индекс без отдельной векторной БД

В комментариях к прошлой статье мне написали примерно следующее: граф связей выглядит красиво, но хороший поиск по заметкам полезнее. Спорить было т…

Obsidianсемантический поискembeddingsвекторный поискTypeScriptлокальный индексLocalVectorStoreOpenRouterOllamaVault Audit AI
Habr
RU

Один интерфейс — девять LLM-провайдеров: как мы подружили Kimi K3, GLM-5.2, Claude и Ollama в одном терминальном агенте

Привет, Хабр! Я делаю execai — терминальный AI-агент на Go (bubbletea), в духе Claude Code. Он читает файлы, гоняет shell-команды, ходит в kubernete…

execaiGoLLMKimi K3GLM-5.2OllamaAI-агенттерминалbubbleteaSSE
Habr
RU

«Свой» уходит в опенсорс: вайб-темы, RAG поверх шифра и объектив, который знает контекст

Свой open source ИИ-ассистент. Ассистент - который помнит вас между разговорами - ищет по вашим документам и по вебу - умеет планировать - работать…

LLMRAGИИ-ассистентopen sourceGoOllamaBYOKvisionSearXNGsqlite-vec
Habr
RU

Как заставить LLM проанализировать хранилище из тысяч заметок, которое не влезает в контекст

У меня в Obsidian накопилось под две тысячи заметок. Ежедневники, конспекты, обрывки идей, недописанные черновики. Граф‑вью честно по…

ObsidianLLMMapReduceплагинTypeScriptOpenRouterOllamaаудит базы знанийRAG
Habr
RU

Кто ворует ваш GPU: атаки на открытые LLM-эндпоинты (Ollama, llama.cpp) — и при чём тут кража облачных ключей

Коротко тезис: открытый Ollama — это бесплатный GPU для атакующего , и охота за таким compute давно поставлена на поток. Но за май наша сеть ханипот…

LLMOllamallama.cpphoneypotSSRFIMDSинформационная безопасностьGPUn8n
Habr
RU

PewDiePie: разбираю self-hosted AI-workspace, который собрал 47 тысяч звёзд за пару дней

PewDiePie последние полтора года ушёл из развлекательного контента в технику: домашний сервер, локальные LLM, self-hosting. Результат — репозиторий…

self-hostedAI workspaceлокальные LLMOdysseusPewDiePieOllamaDockeropencodeприватность
Habr
RU

Как я сделал локальный RAG-сервис для SRE: ищем по документации, ранбукам и коду через Ollama

Недавно делал учебный проект про автоматизацию документирования инцидентов. Поначалу планы были грандиозными: инциденты, таймлайны, интеграции с мон…

RAGLLMFastAPIPythonOllamaOpenWebUIBM25SREранбукиOpenAI-compatible API
Habr
RU

Хотел упростить мониторинг проектов и в отпуск — пришлось обучать свой LLM. Часть 4. Тестирование

Продолжаем серию про файнтюнинг и создание DevOps-агента Oni. В первой части я собирался в отпуск и хотел, чтобы локальная моделька через OpenClaw с…

тестирование ИИagent evaluationQwen3.5файнтюнингDevOps-агентLLMбезопасность ИИprompt injectionOllamaLLM safety.
Habr
RU

Хотел упростить мониторинг проектов и в отпуск — пришлось обучать свой LLM.Часть 3.Дистилляция

Третья часть про DevOps-агента Oni. В первой статье я встретился с реальностью — локальные модели не справляются с простыми задачами. Во второй разб…

LLMфайнтюнингfine-tuningLoRADevOps-агентOllamaобучение LLMcatastrophic forgettingUnslothAI-агент