RU

Влияние транспорта KV‑переноса на производительность PD‑disaggregation на примере инференса MiniMax‑M3

Привет! Проводил тестирование на рабочих стендах и хочу поделиться своими результатами с Habr. В работе исследуется влияние транспорта KV-кэша на пр…

llm inferencePD-disaggregationKV-cacheRDMAInfiniBandGPUDirectTCPTTFTsglangminimax-m3
Habr
RU

EvertyCloud: что я сделал чтобы компании перестали арендовать емкость

Меня зовут Артур Валиев. За последнее время я сделал несколько проектов на Rust + Iced, которые со стороны действительно можно принять за отдельные…

RustIcedEvertyCloudEvertyDeskEvertyDisplayраспределённые системыоблачное хранилищеTCPUDPrclone
Habr
RU

Канал свободен, а пинг под нагрузкой скачет до секунды: разбираемся с bufferbloat и очередями

Гигабитный канал может быть загружен лишь наполовину, а пинг под нагрузкой всё равно взлетает до сотен миллисекунд. Разбира…

bufferbloatзадержка сетиуправление очередямиTCPAQMFQ-CoDelCAKEECNL4SBBR.