RU

Синтетическая эмпатия: как RAG, системные промпты и TTS инженерят привязанность к LLM-агентам

ELIZA в 1966-м заставляла секретарш просить не заглядывать в распечатки диалогов. Шестьдесят лет спустя компаньон-агенты на LLM делают то же самое,…

llmragttsollamachromadbapple siliconai-агентыодиночество
Habr
RU

Техно‑аквариум в стиле адской Обители: запускаем локальную LLM Qwen 2.5 14B на домашнем ПК для интерактивного сайта

Сегодня уже никого не удивить нейросетью — из каждого утюга только о них и слышно. Хоть видео, текст, генерация кода. Уже приход…

ollamaqwen 2.5локальные нейросетиllmсервер домаgtx 1660 superlga2011pythonвеб-разработкаинди-разработка
Habr
RU

Семь занятий по локальному RAG на Python от файла до ответа с источниками

Сделал бесплатный курс для тех кто хочет научиться создавать локальные ИИ приложения на Python. За семь занятий разберём помощника, к…

pythonragollamallmstreamlitлокальные моделисемантический поискэмбеддинги
Habr
RU

Нейросеть написала PR, тесты зелёные, а поведение изменилось. Как я научил CI это ловить

Модель «упрощает» валидацию. Линтер молчит, тесты проходят, ревьюер видит аккуратный дифф в одну строку и жмёт Approve. Через неделю выясн…

pythonproperty-based testinghypothesisdifferential testingcode reviewgithub actionsllmollamaai-генерированный кодci-cd
Habr
RU

Хотел свою систему, которую можно менять когда угодно, и сделал три десктопных AI-приложения

Я всегда хотел иметь свою систему: свои приложения, в которых можно изменить что угодно, а не что-то чужое, что завтра могут поменять. Так появился…

Aiai-агентыtaurielectronollamaлокальные llmfine-tuningloraдесктопные приложенияreact
Habr
RU

Сколько токенов в секунду выдадут новые Mac mini на M6 и M5 Pro. Прогноз до того, как железо приехало

Через несколько дней Apple начнёт отгружать Mac mini на M6 и M5 Pro и Mac Studio на M5 Max и M5 Ultra. Замеров локальных моделей на них ещё ни у ког…

mac minim6m5 proollamallmapple siliconлокальные моделибенчмарк
Habr
RU

Два года, один человек, 66 контейнеров: как я построил AI‑платформу на железе под столом

Привет, Хабр. 26 августа 2024 года я получил у BotFather первый токен и написал кривой телеграм‑бот с одной моделью — обычн…

self-hostedдомашний серверdockermikrotikbgppostgresqlprometheusgiteagpuollama
Habr
RU

Никто не просил — а я сделал банку робота-секретаря

Я люблю решать нерешаемые проблемы , делать людям жизнь легче, тестить гипотезы , создавать крутые продукты . Так меня позвали работать в Уралсиб, г…

робот-секретарьтранскрибацияwhisper.cppдиаризацияyandexgptWebRTCollamaExchange Web ServicesDimaTorzokзакрытый контур
Habr
RU

Локальный ассистент для зумов, часть 2: как граф встреч становится памятью и почему ему можно верить

В первой части я собрал локального ассистента для созвонов: диаризация, стенограмма, граф знаний в Obsidian, ноль облаков. За полтора месяца ежеднев…

локальные llmассистент встречollamaдиаризацияграф знанийgraphragobsidianspeech-to-textzoomприватность
Habr
RU

Локальный ИИ-агент в своём контуре: Ollama плюс OpenClaw на серверном GPU

Однажды за один вечер мне пришлось разобрать двенадцать ошибок, и почти все прятались в конфигурации и связях между компонентами. Модель отвечала пу…

vk cloudлокальный ииai agentsollamaopenclawnvidia a30gpullm inferenceself-hosted aiинформационная безопасность
Habr
RU

Локальный ИИ-агент в своём контуре: Ollama плюс OpenClaw на серверном GPU

Однажды за один вечер мне пришлось разобрать двенадцать ошибок, и почти все прятались в конфигурации и связях между компонентами. Модель отвечала пу…

vk cloudлокальный ииai agentsollamaopenclawnvidia a30gpullm inferenceself-hosted aiинформационная безопасность
Habr
RU

Как я Zabbix с LLM дружил в свободное время. Архитектурный обзор взаимодействия с нейросетью. Часть 4 «Реализация»

Это заключительная статья цикла о том, как я пытался сделать алерты Zabbix в домашней лаборатории чуть умнее, прикрутив к ним локальную LLM и не пол…

zabbixllmaiopsмониторингалертыавтоматизацияollamapythonrcaпромпт-инжиниринг
Habr
RU

Как я искал идеальный промпт для сопроводительных писем (и что оказалось важнее модели)

Хотел понять, потянет ли маленькая локальная модель сопроводительные письма или без облака никак. Оказалось, главный рычаг не модель, а промпт: пере…

поиск работыhh.ruсопроводительное письмопромпт-инжинирингOtklikнейросетиollamaлокальные llmgigachatopen source
Habr
RU

Написал локального ИИ-ассистента для зумов: диаризация, граф знаний и ноль облаков

Собрал ассистента встреч, который работает целиком на моём маке: локальный STT, живая диаризация голосов, мгновенные ответы на вопросы собеседника и…

локальные llmollamaдиаризацияspeech-to-textграф знанийассистент встречzoom
Habr
RU

Как я хакнул рынок труда: пишем свой ИИ-комбайн для автооткликов на HH.ru

Всем привет! Если вы хоть раз искали работу в IT за последний год, то знаете, что рынок беспощаден к новичкам. Нужно откликнуться на сотни вакансий,…

pythonplaywrighthh.ruollamallama3автоматизацияпоиск работыискусственный интеллектпарсингкарьера
Habr
RU

Где заканчивается вызов LLM и начинается backend система: локальный RAG на FastAPI и Ollama

Хотел разобраться где заканчивается простой вызов локальной LLM и начинается backend система. Сначала всё выглядело просто: frontend отправляет вопр…

ragllmfastapiollamapythonbackendembeddingsvector storerequest_idлокальная llm
Habr
RU

Искусственный интеллект с LangChain. Разработка ИИ-агентов на Python

Представляем новый практический курс по ИИ-агентам на Python от мастера обучающей литературы Владимира Дронова . Книга наверняка вызовет интерес у в…

langchainииllmpythonнейросетипрограммированиеraggigachatyandexgptollama
Habr
RU

Anthropic, Fable 5, Claude Code и большой отбор игрушек

9 июня Anthropic выкатила  Claude Fable 5 , он же Mythos 5 в закрытом контуре. 12 июня доступ к обеим версиям сняли. А между этими датами умест…

claude fable 5mythos 5anthropicllmлокальные моделиvllmollamahugging faceуправление зависимостямиИИ-безопасность
Habr