Tensorflow: ์˜ตํ‹ฐ๋งˆ์ด์ € ์ƒํƒœ ์ €์žฅ(adagrad/momentum ๋“ฑ)

์— ๋งŒ๋“  2016๋…„ 11์›” 14์ผ  ยท  1๋…ผํ‰  ยท  ์ถœ์ฒ˜: tensorflow/tensorflow

ํ—ค์ด ์—ฌ๋Ÿฌ๋ถ„,

์ง€๋‚œ ์ฃผ์— ์ €๋Š” stackoverflow์—์„œ ์ด ์งˆ๋ฌธ์„ ํ–ˆ์Šต๋‹ˆ๋‹ค: https://stackoverflow.com/questions/40547198/saving-the-state-of-the-adagrad-algorithm-in-tensorflow .
๋‚ด ๋ฌธ์ œ๋Š” ์˜ตํ‹ฐ๋งˆ์ด์ €(๋‚ด ๊ฒฝ์šฐ์—๋Š” adagrad ๋ˆ„์‚ฐ๊ธฐ)์˜ ์ƒํƒœ๋ฅผ ์ €์žฅํ•˜์—ฌ ํ•™์Šต์„ ์ค‘๋‹จํ•˜๊ณ  ์›ํ•  ๋•Œ๋งˆ๋‹ค ๊ณ„์†ํ•  ์ˆ˜ ์žˆ๊ธฐ๋ฅผ ์›ํ•œ๋‹ค๋Š” ๊ฒƒ์ž…๋‹ˆ๋‹ค.

๋‚ด๊ฐ€ ์ฐฉ๊ฐํ•˜์ง€ ์•Š๋Š” ํ•œ ์˜ตํ‹ฐ๋งˆ์ด์ €์˜ ์ƒํƒœ๋Š” ์ €์žฅํ•  ์ˆ˜ ์—†์Šต๋‹ˆ๋‹ค(์˜ตํ‹ฐ๋งˆ์ด์ €๋ฅผ tf.train.Saver์— ์ „๋‹ฌํ•  ์ˆ˜ ์—†์Šต๋‹ˆ๋‹ค, ๋งž์ฃ ?). ๋‚˜๋ฅผ ์œ„ํ•œ ๋น ๋ฅธ(ํ•ดํ‚ค?) ์†”๋ฃจ์…˜์€ Optimizer.get_slot_names()๋ฅผ ํ˜ธ์ถœํ•˜๊ณ  ๊ฐ ์Šฌ๋กฏ์˜ ์ž‘์—…์„ ์ €์žฅํ•˜๋Š” ๊ฒƒ์ž…๋‹ˆ๋‹ค.
๋‹ค์Œ ๋ฌธ์ œ๋Š” ํ˜„์žฌ set_slot(name,op)์ด ์—†๋‹ค๊ณ  ์ƒ๊ฐํ•˜๊ธฐ ๋•Œ๋ฌธ์— ์ด ์ž‘์—…์„ ์Šฌ๋กฏ์— ๋‹ค์‹œ ๋„ฃ๋Š” ๊ฒƒ์ž…๋‹ˆ๋‹ค.

๊ทธ๋ž˜์„œ ๋‚ด ์งˆ๋ฌธ์€ ๋‹ค์Œ๊ณผ ๊ฐ™์Šต๋‹ˆ๋‹ค.

  • ์ด๊ฒƒ์ด ํ˜„์žฌ ๋ถˆ๊ฐ€๋Šฅํ•˜๋‹ค๋Š” ๊ฒƒ์ด ๋งž์Šต๋‹ˆ๊นŒ?
  • Optimizer ํด๋ž˜์Šค์— set_slot(name,op) ํ•จ์ˆ˜๋ฅผ ๊ฐ–๊ณ  ์‹ถ์Šต๋‹ˆ๊นŒ? (๋‚˜๋Š” ์ด ์ผ์— ๊ธฐ๊บผ์ด ๋„์›€์„ ์ค„ ์˜ํ–ฅ์ด ์žˆ๋‹ค)
  • Saver ๊ฐœ์ฒด์— ์ตœ์ ํ™” ํ”„๋กœ๊ทธ๋žจ์„ ์ „๋‹ฌํ•  ์ˆ˜ ์žˆ๊ธฐ๋ฅผ ์›ํ•˜์‹ญ๋‹ˆ๊นŒ?

>๋ชจ๋“  ๋Œ“๊ธ€

๋” ์ข‹์€ ๊ณณ์ธ stackoverflow์— ์งˆ๋ฌธํ•ด์ฃผ์…”์„œ ๊ฐ์‚ฌํ•ฉ๋‹ˆ๋‹ค. ์˜ตํ‹ฐ๋งˆ์ด์ € ์ƒํƒœ๋Š” ๊ธฐ๋ณธ์ ์œผ๋กœ ์ €์žฅ๋˜๋ฉฐ ์ €์žฅ ๋Œ€์ƒ์„ ๊ตฌ์ฒด์ ์œผ๋กœ ์•Œ๋ ค์ฃผ๊ธฐ ๋•Œ๋ฌธ์— ์ €์žฅ๋˜์ง€ ์•Š์Šต๋‹ˆ๋‹ค.

์ด ํŽ˜์ด์ง€๊ฐ€ ๋„์›€์ด ๋˜์—ˆ๋‚˜์š”?
0 / 5 - 0 ๋“ฑ๊ธ‰