tensorflow ๋ชจ๋ธ ๋ด์์ ๊ธฐ์กด ์๋ฒ ๋ฉ์ ์ฌ์ฉํ๋ ค๊ณ ํ๋๋ฐ ์๋ฒ ๋ฉ ํฌ๊ธฐ๊ฐ 2Gb๋ณด๋ค ํฌ๋ฉฐ ์ด๋ก ์ธํด ์๋ ์๋๊ฐ ์คํจํ์ต๋๋ค.
embedding_var = tf.get_variable(
"embeddings",
shape=GLOVE_MATRIX.shape,
initializer=tf.constant_initializer(np.array(GLOVE_MATRIX))
)
์ด ์ค๋ฅ๊ฐ ๋ฐ์ํ์ต๋๋ค.
Cannot create a tensor proto whose content is larger than 2GB.
Estimator API๋ฅผ ๊ธฐ๋ฐ์ผ๋กํ๋ AWS SageMaker๋ฅผ ์ฌ์ฉํ๊ณ ์์ผ๋ฉฐ ์ธ์ ์์ ๊ทธ๋ํ์ ์ค์ ์คํ์ ์ฅ๋ฉด ๋ค์์ ๋ฐ์ํ๋ฏ๋ก ์๋ฒ ๋ฉ์์ํ ์ผ๋ถ ์๋ฆฌ ํ์์๋ฅผ ์ด๊ธฐํํ๋ ๋ฐฉ๋ฒ์ ์ ๋ชจ๋ฅด๊ฒ ์ต๋๋ค. ๋๊ตฐ๊ฐ๊ฐ EstimatorAPI ์ธก๋ฉด์์ ์ด๋ฌํ ์ด๊ธฐํ๋ฅผ ์ํํ๋ ๋ฐฉ๋ฒ์ ๊ณต์ ํ ์ ์๋ค๋ฉด ๋์์ด ๋ ๊ฒ์ ๋๋ค.
๋์๊ณผ ์ง์์ ๋ฐ์ผ๋ ค๋ฉด Stack Overflow๋ก ์ด๋ํ์ธ์.
https://stackoverflow.com/questions/tagged/tensorflow
GitHub ๋ฌธ์ ๋ฅผ ์ฌ๋ ๊ฒฝ์ฐ ์ ์ฑ ์ ๋ค์๊ณผ ๊ฐ์ต๋๋ค.
๊ทธ ์ ์ฑ ์ด์๋ ์ด์ ๋ ๋ค์๊ณผ ๊ฐ์ต๋๋ค . TensorFlow ๊ฐ๋ฐ์๋ ๋ฌธ์ ์ ๋์ํฉ๋๋ค. ์ฐ๋ฆฌ๋ ๋ฒ๊ทธ ์์ ๋ฐ ๊ธฐ๋ฅ ์ถ๊ฐ์ ๊ฐ์ด ์ ์ฒด ์ปค๋ฎค๋ํฐ์ ๋์์ด๋๋ ์์ ์ ์ง์คํ๊ณ ์ถ์ต๋๋ค. ์ง์์ ๊ฐ์ธ์๊ฒ๋ง ๋์์ด๋ฉ๋๋ค. GitHub๋ ๋ํ ๋ฌธ์ ๊ฐ ์ ๊ธฐ๋๋ฉด ์์ฒ ๋ช ์ ์ฌ๋๋ค์๊ฒ ์๋ฆฝ๋๋ค. Stack Overflow๋ก ๋ฆฌ๋๋ ์ ๋๋ ๋์ ํฅ๋ฏธ๋ก์ด ๋ฌธ์ ๋ฅผ ์ ๋ฌํ๋ ๋ชจ์ต์ ๋ณผ ์ ์๊ธฐ๋ฅผ ๋ฐ๋๋๋ค.
ํ๊ฒฝ ์บก์ฒ ์คํฌ๋ฆฝํธ๋ฅผ ์ฌ์ฉํ์ฌ์ด ์ ๋ณด ์ค ์ผ๋ถ๋ฅผ ์์ง ํ ์ ์์ต๋๋ค.
https://github.com/tensorflow/tensorflow/tree/master/tools/tf_env_collect.sh
TensorFlow ๋ฒ์ ์
python -c "import tensorflow as tf; print (tf.GIT_VERSION, tf.VERSION)"
์ฌ๊ธฐ์ ๋ฌธ์ ๋ฅผ ๋ช ํํ๊ฒ ์ค๋ช ํ์ญ์์ค. TensorFlow์ ๋ฒ๊ทธ์ด๊ฑฐ๋ ๊ธฐ๋ฅ ์์ฒญ ์ธ ์ด์ ๋ฅผ ์ฌ๊ธฐ์ ์ ๋ฌํด์ผํฉ๋๋ค.
๋ฌธ์ ์ง๋จ์ ๋์์ด๋๋ ๋ก๊ทธ ๋๋ ์์ค ์ฝ๋๋ฅผ ํฌํจํ์ญ์์ค. ์ญ ์ถ์ ์ ํฌํจํ๋ ๊ฒฝ์ฐ ์ ์ฒด ์ญ ์ถ์ ์ ํฌํจํ์ญ์์ค. ํฐ ๋ก๊ทธ์ ํ์ผ์ ์ฒจ๋ถํด์ผํฉ๋๋ค. ๋ฌธ์ ๋ฅผ ์์ฑํ๋ ๋ฐ ํ์ํ ์ต์ํ์ ์ฌํ ๊ฐ๋ฅํ ํ ์คํธ ์ผ์ด์ค๋ฅผ ์ ๊ณตํ์ญ์์ค.
์ผ๋ฐ์ ์ผ๋ก "Send to StackOverflow"(์๋์ ์ถ๊ฐ ๋ ํ์ค ์๋ต) ์ข ๋ฅ์ ๋ฌธ์ ๋ผ๊ณ ์๊ฐํ์ง๋ง 2GB ์ ํ์ ๋ฒ๊ทธ ๋๋ ๊ธฐ๋ฅ ์์ฒญ ๋ฒ์ ๋ด์์๋ ๊ฒ ๊ฐ์ต๋๋ค.
@martinwicke @ispirmustafa ์ด๋ค ์ ์?
์ด ์ง๋ฌธ์ ๋ฒ๊ทธ ๋๋ ๊ธฐ๋ฅ ์์ฒญ์ด ์๋๊ธฐ ๋๋ฌธ์ StackOverflow์์ ๋ ์ ๋ฌป์ต๋๋ค. ๊ฑฐ๊ธฐ์ ์ง๋ฌธ์ ์ฝ๋ ๋ ํฐ ์ปค๋ฎค๋ํฐ๋ ์์ต๋๋ค. ๊ฐ์ฌ!
๊ทธ๋ํ ํฌ๊ธฐ ์ ํ๊ณผ ๊ด๋ จ์ด ์๋ค๊ณ ์๊ฐํฉ๋๋ค. constant_initializer๋ฅผ ์ฌ์ฉํ๋ฉด GLOVE_MATRIX๊ฐ ๊ทธ๋ํ์ ํฌํจ๋์ด ๊ทธ๋ํ ํฌ๊ธฐ๊ฐ โโ์ฆ๊ฐํฉ๋๋ค.
์์๊ฐ ์๋ ์ด๋์
๋ผ์ด์ ๋ฅผ ์ฌ์ฉํด ์ฃผ์๊ฒ ์ต๋๊น?
์๋ฒ ๋ฉ์ผ๋ก ๋ณ์๋ฅผ ์ด๊ธฐํํ๋ ์ฌ๋ฐ๋ฅธ ๋ฐฉ๋ฒ์ tf.train.Scaffold ๋ฅผ ์ฌ์ฉํ๋ ๊ฒ stackoverflow ์ ๋ํ ์์ธํ ์ ๋ณด์ ๋๋ค.
๊ฐ์ฅ ์ ์ฉํ ๋๊ธ
์๋ฒ ๋ฉ์ผ๋ก ๋ณ์๋ฅผ ์ด๊ธฐํํ๋ ์ฌ๋ฐ๋ฅธ ๋ฐฉ๋ฒ์ tf.train.Scaffold ๋ฅผ ์ฌ์ฉํ๋ ๊ฒ stackoverflow ์ ๋ํ ์์ธํ ์ ๋ณด์ ๋๋ค.