a mi entender, la deserción se aplica a la capa completamente conectada,
¿Cómo puedo usar la capa de abandono en caffe? ¿Hay alguna demostración sobre esto?
¿Lo usaré encima de una capa IP? ¿O cualquier otra cosa?
Puede leer fácilmente los archivos de definición incluidos en examples / imagenet. Hay dos capas de abandono en ellos.
Derecha. Los ejemplos son tus amigos. Pregunte sobre los usuarios de café . Los temas son para discusión de desarrollo. ¡Gracias!
La capa de abandono reduce el sobreajuste evitando coadaptaciones complejas en los datos de entrenamiento. Aquí proporcioné un ejemplo que toma la salida de una capa InnerProduct (ip11), después de una capa ReLU como función de activación.
capa {
nombre: "drop1"
tipo: "Abandono"
abajo: "ip11"
arriba: "ip11"
dropout_param {
dropout_ratio: 0.5
}
}
En esta capa, cada unidad oculta se omite aleatoriamente de la red con una probabilidad de 0.5 (la tasa de abandono).
Comentario más útil
La capa de abandono reduce el sobreajuste evitando coadaptaciones complejas en los datos de entrenamiento. Aquí proporcioné un ejemplo que toma la salida de una capa InnerProduct (ip11), después de una capa ReLU como función de activación.
capa {
nombre: "drop1"
tipo: "Abandono"
abajo: "ip11"
arriba: "ip11"
dropout_param {
dropout_ratio: 0.5
}
}
En esta capa, cada unidad oculta se omite aleatoriamente de la red con una probabilidad de 0.5 (la tasa de abandono).