RU

Лимиты ChatGPT и локальные LLM: мой эксперимент с Hermes Agent

Проверил, можно ли разгрузить Hermes Agent с помощью локальных LLM на домашнем ПК с RTX 3080 и 32 ГБ RAM. Сравнил Qwen и GLM на архитектурных задача…

локальные LLMHermes AgentOllamaQwenGLMквантованиеRTX 3080ИИ-агентылокальный инференсChatGPT
Habr