Нейро-станция«МНИСТ-1»

система распознавания рукописных цифр

ожидание

ГОСТ 5.1 · изд. 001 · СССР

Настоящая сеть 784→30→10, собранная с нуля (init · forward · backward · SGD). Обучение и распознавание — по-честному, на реальном MNIST.

Ручной ввод образа

Начертите цифру пером. Станция распознаёт справа. До обучения — гадает наугад.

Схема сетисхемачисла

ВХОД·784СКРЫТЫЙ·30ВЫХОД·10

СИГНАЛ → ← ГРАДИЕНТ

обучение на

—

Распознано

ответ

Обучение

эпоха 0/30пакет —

График ошибки ↓

—

Средний квадрат промаха на обучающей выборке. Каждая эпоха — точка. Чем ниже кривая, тем точнее backprop подогнал веса.

Точность ↑

—

Доля верно распознанных цифр на контрольной выборке — которую сеть при обучении не видела. Честная проверка навыка.

Фонд данных · 50 000 образцов

Витрина · 0–9

МНИСТ — рукописные цифры (NIST, США, 1998). Обучающая выборка 50 000, контрольная 10 000, растр 28×28.

Карта фонда

обработано образцов

Каждая точка — один образец, всего 50 000. За эпоху станция прочитывает фонд целиком: засветка — прочитанное текущей эпохой.

Скрытый слой · что выучили 30 нейронов

Конфигурация · гиперпараметры

размер скрытого слоя30

число скрытых слоёв1

скорость обучения η1.0

размер батча20

число эпох30

Основано на книге Майкла Нильсена «Neural Networks and Deep Learning» и его работе. Собрал @mkuliasov.

ВЫЧИСЛИТЕЛЬ «АЛДАН-3»

«Понедельник начинается в субботу»