RU

Как IBM изобрела половину современного IT, но почти каждый раз на этом зарабатывал кто-то другой

В мире мало компаний, которые внесли в развитие IT вклад, сопоставимый с IBM. На ее счету жесткий диск, реляционная база данных, персональный компьюте…

selectelIBMизобретенияистория
Habr
RU

Mamba: архитектура, которая шла убивать трансформеры

В декабре 2023 по ML-тусовке прокатилась волна заголовков в духе «трансформерам конец». Поводом стала статья двух исследователей — Альберта Гу и Три Д…

MambaSSMтрансформерыattentionязыковые моделинейросетимашинное обучениеRNNгибридные моделиselectel
Habr
RU

Миф о «равных весах»: что на самом деле скрывается внутри малых моделей

Последние годы развитие LLM шло по пути экстенсивного масштабирования: считалось, что чем больше весов и данных, тем умнее модель. В индустрии даже сл…

mlopsselectelllm-моделиqwenphi-4mistralgpt-ossdeepseekaiai-агенты
Habr