35B‑модель на RTX 5080 и RTX 3060: 109 ток/с через PCIe Gen2 x4
Моя RTX 3060 на PCIe Gen2 x4 не мешает генерации Qwen3.6–35B‑A3B со скоростью 109 ток/с. Разбираю, почему это работает…
Latest News
⚑ Report a ProblemTech news from the best sources
All topics
- игры
AI
News
Tech
agents
ai
api
architecture
automation
backend
beginners
career
devchallenge
devops
javascript
llm
machinelearning
mcp
opensource
performance
productivity
programming
python
react
security
showdev
testing
tutorial
typescript
webdev
Петабайт на двух дисках и технология CXL — индустрия хранения подстраивается под аппетиты ИИ
4–6 августа в Санта-Кларе прошла выставка Flash Memory Summit, на которой был представлен ряд интересных новинок. Контекст 2026 таков, что память и…
PCIe 6.0 уже здесь: обзор первых NVMe от Samsung и Micron для ЦОДов и AI-серверов
Спецификация PCIe 6.0 была утверждена еще в 2022 году — она дает вдвое бо́льшую скорость по сравнению с PCIe 5.0. Но время шло,…
GPU PCI Address Instability: When Your Card Moves Between Reboots
I spent an entire afternoon debugging a VM that refused to boot, only to find out my GPU had decided to change its PCI address. One reboot and the d…