RU

Memorization vs Generalization: что действительно умеет языковая модель (TLM) на 2 160 параметров (v1.1.0)

Продолжая тему Крошечной Языковой Модели на Nodejs мы поймем где проходит граница ее возможностей. На примере Крошечной Языковой Модели (TLM) из 2 1…

machinelearningmachine learningbackpropagationself-attentionautogradnodejsjavascriptsftнейронная сетьtransformer
Habr
RU

[Перевод] Языковая Модель без магии: Крошечная Language Model на чистом Node.js

Мы создаем крошечную языковую модель с нуля на чистом Node.js без использования TensorFlow или PyTorch, реализуя нейроны, автоград, эмбеддинги, меха…

machinelearningmachine learningbackpropagationself-attentionautogradnodejsjavascriptsftнейронная сетьtransformer
Habr
RU

Perceptron: Как работала самая первая нейросеть в истории?

Сегодня мы расскажем с чего началась эпоха современного ИИ. Это произошло через год после полета первого искусственного спутника Земли и имело не ме…

ИИaiперцептронперцептроныистория itнейронные сетинейронная сетьнаучно-популярное
Habr
RU

Вспомнить всё. Спектр весов нейросети

В данной публикации попробуем сформировать простейшую нейросеть. Будем использовать Colab. Данный выбор также хорош тем, что то, что позволено Ю py…

веса моделинейронная сетьобучение нейронных сетейпостеризацияпреобразование фурьеспектрограммафункция потерьточность прогноза