Tensorflow: Получение активаций внимания для визуализации внимания в Seq2Seq

Созданный на 27 мар. 2016 · 3Комментарии · Источник: tensorflow/tensorflow

Все информационные листки содержат некоторую визуализацию весов внимания на некоторых входных данных. Кто-нибудь смог запустить образец через модель Seq2Seq Attention Decoder в translate.py и получить активацию внимания, чтобы сделать такую визуализацию?

Источник

nicholaslocascio

Самый полезный комментарий

Ссылка не работает. Какая правильная ссылка?

jarheadfa 27 июн. 2017

👍10

Все 3 Комментарий

Маска внимания доступна здесь в виде тензора:
https://github.com/tensorflow/tensorflow/blob/master/tensorflow/python/ops/seq2seq.py#L522

Его должно быть легко извлечь во время вызова запуска и визуализировать. Вы можете попробовать опубликовать это в StackOverflow, чтобы узнать, выполнил ли кто-нибудь из общего сообщества эту визуализацию. Я закрываю этот вопрос, поскольку у нас есть необходимая функциональность в TensorFlow.