RU

Локальный запуск LLM для SOC: сколько инцидентов обработает одна GPU? Часть 2

Всем привет! На связи Сергей Иванов, аналитик технологий машинного обучения R‑Vision. В первой части эксперимента мы выяснили, как на&nbsp…

llmsocgpuавтоматизация SOCnvidia rtx pro 6000 blackwellvllmqwen3.5AI в SOCинференс llmself-hosted llm
Habr
RU

Qwen3.5 на двух V100, reverse SSH вместо Cloudflare в Telegram Mini App: собираю AI-репетитора английского

У меня в углу комнаты стоит сервер с двумя Tesla V100 32GB. Они доcтались мне для другой задачи, которая отвалилась, и полгода стояли мёртвым грузом…

vllmqwen3.5telegram bottelegram mini appsaiogram 3fastapiself-hosted llmkokoro ttswhispertesla v100