RU

Как фундаментальная математика помогает переосмыслить градиентный спуск

Градиентный спуск — стандартный инструмент обучения нейросетей. Но с точки зрения линейной алгебры операция обновления весов выглядит некорректно: м…

глубокое обучениематематикаоптимизацияградиентный спусклинейная алгебранейросетинейросетьиимашинное обучение
Habr
RU

Микроядро SME2 sgemm: 1024 умножения-сложения за проход

В этой части мы возьмём первый из пропусков BLIS — микроядро sgemm ; сначала зафиксируем форму аккумулятора 32×32 в четырёх тайлах ZA, затем разберё…

BLISGEMMSME2Apple Siliconмикроядрокэш-блокингупаковка данныхвысокопроизводительные вычислениялинейная алгебраBLAS
Habr
RU

BLIS: недостающую среднюю ступеньку построили тридцать лет назад

В этой части мы начнём с тупика, в который приводит голый цикл FMOPA ; затем покажем, какую часть GEMM BLIS уже построил за нас; после этого разберё…

BLISGEMMSME2Apple Siliconмикроядрокэш-блокингупаковка данныхвысокопроизводительные вычислениялинейная алгебраBLAS
Habr
RU

Я перенёс на Python библиотеку, которой физики пользуются двадцать лет. Перевод оказался самой лёгкой частью

Есть код, который физики передают друг другу с 2002 года. Кристиан Мэтцлер из Бернского университета написал набор MATLAB‑функций для&nbsp…

rcwaфотоникаmatlabpythonnumpyчисленные методылинейная алгебратестирование
Habr
RU

Как устроен ГИГАХРУЩ: Как мы заставили линейную алгебру и теорию категорий писать процедурную речь для НПС

В прошлых статьях про инженерную архитектуру ГИГАХРУЩА мы разбирали, как в одном браузерном файле на чистом TypeScript держится тороидальный клеточн…

марковские цепитеория категорийлинейная алгебрагенерация текстапроцедурная генерацияметод главных компонентклассы эквивалентностигигахрущсамосбордистрибутивная семантика
Habr
RU

Сикофантия? Или ускорение динамического пересчета определителя от O(n³) до O(n)?

Всем привет. Хотел бы поделиться своими результатами и обратиться за ответным мнением. Представлюсь: Шевченко Максим Юрьевич. Работал ману…

линейная алгебравычислительная сложностьопределитель матрицыбольшие языковые моделисикофантиягаллюцинации иироспатент
Habr