Tensorflow: Estimator API ๋‚ด์—์„œ ์ž„๋ฒ ๋”ฉ ๋ ˆ์ด์–ด๋ฅผ ์ดˆ๊ธฐํ™”ํ•˜๋Š” ๋ฐฉ๋ฒ•์€ ๋ฌด์—‡์ž…๋‹ˆ๊นŒ?

์— ๋งŒ๋“  2018๋…„ 01์›” 12์ผ  ยท  3์ฝ”๋ฉ˜ํŠธ  ยท  ์ถœ์ฒ˜: tensorflow/tensorflow

tensorflow ๋ชจ๋ธ ๋‚ด์—์„œ ๊ธฐ์กด ์ž„๋ฒ ๋”ฉ์„ ์‚ฌ์šฉํ•˜๋ ค๊ณ ํ•˜๋Š”๋ฐ ์ž„๋ฒ ๋”ฉ ํฌ๊ธฐ๊ฐ€ 2Gb๋ณด๋‹ค ํฌ๋ฉฐ ์ด๋กœ ์ธํ•ด ์›๋ž˜ ์‹œ๋„๊ฐ€ ์‹คํŒจํ–ˆ์Šต๋‹ˆ๋‹ค.

embedding_var = tf.get_variable(
        "embeddings", 
        shape=GLOVE_MATRIX.shape, 
        initializer=tf.constant_initializer(np.array(GLOVE_MATRIX))
)

์ด ์˜ค๋ฅ˜๊ฐ€ ๋ฐœ์ƒํ–ˆ์Šต๋‹ˆ๋‹ค.

Cannot create a tensor proto whose content is larger than 2GB.

Estimator API๋ฅผ ๊ธฐ๋ฐ˜์œผ๋กœํ•˜๋Š” AWS SageMaker๋ฅผ ์‚ฌ์šฉํ•˜๊ณ  ์žˆ์œผ๋ฉฐ ์„ธ์…˜์—์„œ ๊ทธ๋ž˜ํ”„์˜ ์‹ค์ œ ์‹คํ–‰์€ ์žฅ๋ฉด ๋’ค์—์„œ ๋ฐœ์ƒํ•˜๋ฏ€๋กœ ์ž„๋ฒ ๋”ฉ์„์œ„ํ•œ ์ผ๋ถ€ ์ž๋ฆฌ ํ‘œ์‹œ์ž๋ฅผ ์ดˆ๊ธฐํ™”ํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ์ž˜ ๋ชจ๋ฅด๊ฒ ์Šต๋‹ˆ๋‹ค. ๋ˆ„๊ตฐ๊ฐ€๊ฐ€ EstimatorAPI ์ธก๋ฉด์—์„œ ์ด๋Ÿฌํ•œ ์ดˆ๊ธฐํ™”๋ฅผ ์ˆ˜ํ–‰ํ•˜๋Š” ๋ฐฉ๋ฒ•์„ ๊ณต์œ  ํ•  ์ˆ˜ ์žˆ๋‹ค๋ฉด ๋„์›€์ด ๋  ๊ฒƒ์ž…๋‹ˆ๋‹ค.


๋„์›€๊ณผ ์ง€์›์„ ๋ฐ›์œผ๋ ค๋ฉด Stack Overflow๋กœ ์ด๋™ํ•˜์„ธ์š”.

https://stackoverflow.com/questions/tagged/tensorflow

GitHub ๋ฌธ์ œ๋ฅผ ์—ฌ๋Š” ๊ฒฝ์šฐ ์ •์ฑ…์€ ๋‹ค์Œ๊ณผ ๊ฐ™์Šต๋‹ˆ๋‹ค.

  1. ๋ฒ„๊ทธ์ด๊ฑฐ๋‚˜ ๊ธฐ๋Šฅ ์š”์ฒญ์ด์–ด์•ผํ•ฉ๋‹ˆ๋‹ค.
  2. ์•„๋ž˜ ์–‘์‹์„ ์ž‘์„ฑํ•ด์•ผํ•ฉ๋‹ˆ๋‹ค.
  3. TensorBoard ๋ฌธ์ œ๊ฐ€ ์•„๋‹ˆ์–ด์•ผํ•ฉ๋‹ˆ๋‹ค. ์‚ฌ๋žŒ๋“ค์€ ๊ฐˆ ์—ฌ๊ธฐ .

๊ทธ ์ •์ฑ…์ด์žˆ๋Š” ์ด์œ ๋Š” ๋‹ค์Œ๊ณผ ๊ฐ™์Šต๋‹ˆ๋‹ค . TensorFlow ๊ฐœ๋ฐœ์ž๋Š” ๋ฌธ์ œ์— ๋Œ€์‘ํ•ฉ๋‹ˆ๋‹ค. ์šฐ๋ฆฌ๋Š” ๋ฒ„๊ทธ ์ˆ˜์ • ๋ฐ ๊ธฐ๋Šฅ ์ถ”๊ฐ€์™€ ๊ฐ™์ด ์ „์ฒด ์ปค๋ฎค๋‹ˆํ‹ฐ์— ๋„์›€์ด๋˜๋Š” ์ž‘์—…์— ์ง‘์ค‘ํ•˜๊ณ  ์‹ถ์Šต๋‹ˆ๋‹ค. ์ง€์›์€ ๊ฐœ์ธ์—๊ฒŒ๋งŒ ๋„์›€์ด๋ฉ๋‹ˆ๋‹ค. GitHub๋Š” ๋˜ํ•œ ๋ฌธ์ œ๊ฐ€ ์ œ๊ธฐ๋˜๋ฉด ์ˆ˜์ฒœ ๋ช…์˜ ์‚ฌ๋žŒ๋“ค์—๊ฒŒ ์•Œ๋ฆฝ๋‹ˆ๋‹ค. Stack Overflow๋กœ ๋ฆฌ๋””๋ ‰์…˜๋˜๋Š” ๋Œ€์‹  ํฅ๋ฏธ๋กœ์šด ๋ฌธ์ œ๋ฅผ ์ „๋‹ฌํ•˜๋Š” ๋ชจ์Šต์„ ๋ณผ ์ˆ˜ ์žˆ๊ธฐ๋ฅผ ๋ฐ”๋ž๋‹ˆ๋‹ค.


์‹œ์Šคํ…œ ์ •๋ณด

  • ์‚ฌ์šฉ์ž ์ง€์ • ์ฝ”๋“œ๋ฅผ ์ž‘์„ฑ ํ–ˆ์Šต๋‹ˆ๊นŒ (TensorFlow์—์„œ ์ œ๊ณตํ•˜๋Š” ์ฃผ์‹ ์˜ˆ์ œ ์Šคํฌ๋ฆฝํŠธ๋ฅผ ์‚ฌ์šฉํ•˜๋Š” ๊ฒƒ๊ณผ ๋ฐ˜๋Œ€) :
  • OS ํ”Œ๋žซํผ ๋ฐ ๋ฐฐํฌ (์˜ˆ : Linux Ubuntu 16.04) :
  • (์†Œ์Šค ๋˜๋Š” ๋ฐ”์ด๋„ˆ๋ฆฌ)์—์„œ ์„ค์น˜๋œ TensorFlow :
  • TensorFlow ๋ฒ„์ „ (์•„๋ž˜ ๋ช…๋ น ์‚ฌ์šฉ) :
  • Python ๋ฒ„์ „ :
  • Bazel ๋ฒ„์ „ (์†Œ์Šค์—์„œ ์ปดํŒŒ์ผํ•˜๋Š” ๊ฒฝ์šฐ) :
  • GCC / ์ปดํŒŒ์ผ๋Ÿฌ ๋ฒ„์ „ (์†Œ์Šค์—์„œ ์ปดํŒŒ์ผํ•˜๋Š” ๊ฒฝ์šฐ) :
  • CUDA / cuDNN ๋ฒ„์ „ :
  • GPU ๋ชจ๋ธ ๋ฐ ๋ฉ”๋ชจ๋ฆฌ :
  • ์žฌํ˜„ ํ•  ์ •ํ™•ํ•œ ๋ช…๋ น :

ํ™˜๊ฒฝ ์บก์ฒ˜ ์Šคํฌ๋ฆฝํŠธ๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ์ด ์ •๋ณด ์ค‘ ์ผ๋ถ€๋ฅผ ์ˆ˜์ง‘ ํ•  ์ˆ˜ ์žˆ์Šต๋‹ˆ๋‹ค.

https://github.com/tensorflow/tensorflow/tree/master/tools/tf_env_collect.sh

TensorFlow ๋ฒ„์ „์€

python -c "import tensorflow as tf; print (tf.GIT_VERSION, tf.VERSION)"

๋ฌธ์ œ ์„ค๋ช…

์—ฌ๊ธฐ์— ๋ฌธ์ œ๋ฅผ ๋ช…ํ™•ํ•˜๊ฒŒ ์„ค๋ช…ํ•˜์‹ญ์‹œ์˜ค. TensorFlow์˜ ๋ฒ„๊ทธ์ด๊ฑฐ๋‚˜ ๊ธฐ๋Šฅ ์š”์ฒญ ์ธ ์ด์œ ๋ฅผ ์—ฌ๊ธฐ์— ์ „๋‹ฌํ•ด์•ผํ•ฉ๋‹ˆ๋‹ค.

์†Œ์Šค ์ฝ”๋“œ / ๋กœ๊ทธ

๋ฌธ์ œ ์ง„๋‹จ์— ๋„์›€์ด๋˜๋Š” ๋กœ๊ทธ ๋˜๋Š” ์†Œ์Šค ์ฝ”๋“œ๋ฅผ ํฌํ•จํ•˜์‹ญ์‹œ์˜ค. ์—ญ ์ถ”์ ์„ ํฌํ•จํ•˜๋Š” ๊ฒฝ์šฐ ์ „์ฒด ์—ญ ์ถ”์ ์„ ํฌํ•จํ•˜์‹ญ์‹œ์˜ค. ํฐ ๋กœ๊ทธ์™€ ํŒŒ์ผ์„ ์ฒจ๋ถ€ํ•ด์•ผํ•ฉ๋‹ˆ๋‹ค. ๋ฌธ์ œ๋ฅผ ์ƒ์„ฑํ•˜๋Š” ๋ฐ ํ•„์š”ํ•œ ์ตœ์†Œํ•œ์˜ ์žฌํ˜„ ๊ฐ€๋Šฅํ•œ ํ…Œ์ŠคํŠธ ์ผ€์ด์Šค๋ฅผ ์ œ๊ณตํ•˜์‹ญ์‹œ์˜ค.

awaiting response bug

๊ฐ€์žฅ ์œ ์šฉํ•œ ๋Œ“๊ธ€

์ž„๋ฒ ๋”ฉ์œผ๋กœ ๋ณ€์ˆ˜๋ฅผ ์ดˆ๊ธฐํ™”ํ•˜๋Š” ์˜ฌ๋ฐ”๋ฅธ ๋ฐฉ๋ฒ•์€ tf.train.Scaffold ๋ฅผ ์‚ฌ์šฉํ•˜๋Š” ๊ฒƒ stackoverflow ์— ๋Œ€ํ•œ ์ž์„ธํ•œ ์ •๋ณด์ž…๋‹ˆ๋‹ค.

๋ชจ๋“  3 ๋Œ“๊ธ€

์ผ๋ฐ˜์ ์œผ๋กœ "Send to StackOverflow"(์•„๋ž˜์— ์ถ”๊ฐ€ ๋œ ํ‘œ์ค€ ์‘๋‹ต) ์ข…๋ฅ˜์˜ ๋ฌธ์ œ๋ผ๊ณ  ์ƒ๊ฐํ•˜์ง€๋งŒ 2GB ์ œํ•œ์€ ๋ฒ„๊ทธ ๋˜๋Š” ๊ธฐ๋Šฅ ์š”์ฒญ ๋ฒ”์œ„ ๋‚ด์—์žˆ๋Š” ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค.

@martinwicke @ispirmustafa ์–ด๋–ค ์ œ์•ˆ?

์ด ์งˆ๋ฌธ์€ ๋ฒ„๊ทธ ๋˜๋Š” ๊ธฐ๋Šฅ ์š”์ฒญ์ด ์•„๋‹ˆ๊ธฐ ๋•Œ๋ฌธ์— StackOverflow์—์„œ ๋” ์ž˜ ๋ฌป์Šต๋‹ˆ๋‹ค. ๊ฑฐ๊ธฐ์— ์งˆ๋ฌธ์„ ์ฝ๋Š” ๋” ํฐ ์ปค๋ฎค๋‹ˆํ‹ฐ๋„ ์žˆ์Šต๋‹ˆ๋‹ค. ๊ฐ์‚ฌ!

๊ทธ๋ž˜ํ”„ ํฌ๊ธฐ ์ œํ•œ๊ณผ ๊ด€๋ จ์ด ์žˆ๋‹ค๊ณ  ์ƒ๊ฐํ•ฉ๋‹ˆ๋‹ค. constant_initializer๋ฅผ ์‚ฌ์šฉํ•˜๋ฉด GLOVE_MATRIX๊ฐ€ ๊ทธ๋ž˜ํ”„์— ํฌํ•จ๋˜์–ด ๊ทธ๋ž˜ํ”„ ํฌ๊ธฐ๊ฐ€ โ€‹โ€‹์ฆ๊ฐ€ํ•ฉ๋‹ˆ๋‹ค.
์ƒ์ˆ˜๊ฐ€ ์•„๋‹Œ ์ด๋‹ˆ์…œ ๋ผ์ด์ €๋ฅผ ์‚ฌ์šฉํ•ด ์ฃผ์‹œ๊ฒ ์Šต๋‹ˆ๊นŒ?

์ž„๋ฒ ๋”ฉ์œผ๋กœ ๋ณ€์ˆ˜๋ฅผ ์ดˆ๊ธฐํ™”ํ•˜๋Š” ์˜ฌ๋ฐ”๋ฅธ ๋ฐฉ๋ฒ•์€ tf.train.Scaffold ๋ฅผ ์‚ฌ์šฉํ•˜๋Š” ๊ฒƒ stackoverflow ์— ๋Œ€ํ•œ ์ž์„ธํ•œ ์ •๋ณด์ž…๋‹ˆ๋‹ค.

์ด ํŽ˜์ด์ง€๊ฐ€ ๋„์›€์ด ๋˜์—ˆ๋‚˜์š”?
0 / 5 - 0 ๋“ฑ๊ธ‰