RU

ASR на CPU. Как выбрать бэкенд, настроить Triton и не потерять в точности

Привет, Хабр! Меня зовут Владимир Никулин, я технический лидер команды продуктивизации нейросетевых решений в MWS AI. Мы развиваем платформу синтеза и…

asrtriton-inference-serverинференс моделейоптимизация моделейvadsttмикросервисная архитектураcpu
Habr
RU

ASR на CPU. Как выбрать бэкенд, настроить Triton и не потерять в точности

Привет, Хабр! Меня зовут Владимир Никулин, я технический лидер команды продуктивизации нейросетевых решений в MWS AI. Мы развиваем платформу синтеза и…

asrtriton-inference-serverинференс моделейоптимизация моделейvadsttмикросервисная архитектураcpu
Habr
RU

Деконструкция GO: CPU, RAM и что там происходит. Reordering, atomics, locks, fences. Часть 1.3

С постановкой проблем в прошлой статье мы почти закончили и вывели самое важное – природу состояния гонки и состязания за кэш. В этой статье мы также …

goassemblycpuatomicsmemorymemorybarrierreorderingdata racecache contention
Habr
RU

Деконструкция GO: CPU, RAM и что там происходит. Многозадачность, многопоточность, кэши, проблемы. Часть 1.2

В прошлой статье я немного слукавил, сказав, что мы будем разбирать атомики, барьеры и системные вызовы. Я пару дней поразмышлял и осознал – а зачем в…

assemblergomultithreadingmultitaskingrace conditioncache contentioncpuramlinux
Habr