RU

Mamba: архитектура, которая шла убивать трансформеры

В декабре 2023 по ML-тусовке прокатилась волна заголовков в духе «трансформерам конец». Поводом стала статья двух исследователей — Альберта Гу и Три Д…

MambaSSMтрансформерыattentionязыковые моделинейросетимашинное обучениеRNNгибридные моделиselectel