Tensorflow: «Глубокий MNIST для экспертов» слишком сложен для второго урока.

В конце первого руководства «MNIST для начинающих машинного обучения» есть следующий абзац:

Важно то, что мы узнали из этой модели. Тем не менее, если вы немного расстроены этими результатами, ознакомьтесь со следующим руководством, в котором мы делаем намного лучше, и узнайте, как создавать более сложные модели с помощью TensorFlow!

Но следующий учебник - «Глубокий MNIST для экспертов», и он не объясняет вещи так же хорошо, как первый учебник. Например, второе руководство начинает отличаться от раздела Build a Multilayer Convolutional Network , но самый первый абзац в разделе Weight Initialization не объясняет используемые концепции:

Чтобы создать эту модель, нам нужно будет создать множество весов и смещений. Обычно следует инициализировать веса с небольшим шумом для нарушения симметрии и предотвращения нулевых градиентов. Поскольку мы используем нейроны ReLU, рекомендуется инициализировать их с небольшим положительным начальным смещением, чтобы избежать «мертвых нейронов». Вместо того чтобы делать это многократно при построении модели, давайте создадим две удобные функции, которые будут делать это за нас.

Что такое «нейроны ReLU»? Почему мы их используем? Что такое даже сверточная сеть?

Я бы сказал, либо

1. Это руководство следует расширить, чтобы лучше прояснить / объяснить вещи новичкам, или
2. Это руководство следует переместить в более позднюю часть списка руководств, и
3. В первом руководстве «MNIST для начинающих» не должно быть the next tutorial а вместо этого должно быть написано a later tutorial on MNIST for Experts .

Спасибо!