Tensorflow: "Deep MNIST for Experts" es demasiado complejo para el segundo tutorial.

El final del primer tutorial, "MNIST para principiantes de ML", tiene este párrafo:

Lo que importa es que aprendimos de este modelo. Aún así, si se siente un poco deprimido por estos resultados, consulte el siguiente tutorial en el que lo hacemos mucho mejor y aprenda a crear modelos más sofisticados con TensorFlow.

Pero el siguiente tutorial es "Deep MNIST for Experts", y no explica las cosas tan bien como el primer tutorial. Por ejemplo, el segundo tutorial comienza a diferir en la sección Build a Multilayer Convolutional Network , pero el primer párrafo debajo de Weight Initialization no explica los conceptos que está usando:

Para crear este modelo, necesitaremos crear muchos pesos y sesgos. Generalmente, se deben inicializar los pesos con una pequeña cantidad de ruido para romper la simetría y evitar gradientes 0. Dado que estamos usando neuronas ReLU, también es una buena práctica inicializarlas con un sesgo inicial ligeramente positivo para evitar "neuronas muertas". En lugar de hacer esto repetidamente mientras construimos el modelo, creemos dos funciones útiles para hacerlo por nosotros.

¿Qué son las "neuronas ReLU"? ¿Por qué los usamos? ¿Qué es incluso una red convolucional?

Yo diría, tampoco

1. Este tutorial debe ampliarse para aclarar / explicar mejor las cosas para los principiantes, o
2. Este tutorial debe moverse más adelante en la lista de tutoriales, y
3. El primer tutorial, "MNIST para principiantes", no debe decir the next tutorial sino a later tutorial on MNIST for Experts .

¡Gracias!