RU

Линейка для чисел: как я собрал каталог из 83 форматов с плавающей точкой — и почему он всё время «не сходится»

Любой, кто дебажил несовпадение точности между двумя реализациями нейросети, знает это чувство: один и тот же matmul на двух устройствах даёт разный р…

числовые форматыfloating pointGoldenFloatbfloat16FP8P3109RTLквантизациямашинное обучениечисла с плавающей точкой