Zenodo: Gzip์œผ๋กœ ์••์ถ•๋œ ํŒŒ์ผ์€ ๋‘ ๋ฒˆ ์••์ถ•๋ฉ๋‹ˆ๋‹ค.

์— ๋งŒ๋“  2019๋…„ 02์›” 18์ผ  ยท  5์ฝ”๋ฉ˜ํŠธ  ยท  ์ถœ์ฒ˜: zenodo/zenodo

์ฐธ์กฐ๋ฅผ ์œ„ํ•ด ์ด ๋ฐ์ดํ„ฐ ์„ธํŠธ๋ฅผ ์ฐธ์กฐํ•˜์‹ญ์‹œ์˜ค: https://zenodo.org/record/2539424

Zenodo๊ฐ€ ์˜ˆ๊ณ  ์—†์ด gzip์œผ๋กœ ์••์ถ•๋œ ํŒŒ์ผ์„ ๋‘ ๋ฒˆ ์••์ถ•ํ•˜๋Š” ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค. ๋”ฐ๋ผ์„œ "์ด์ค‘ ์••์ถ•"(!)๋ฉ๋‹ˆ๋‹ค. ๋”ฐ๋ผ์„œ ๋‹ค์šด๋กœ๋“œํ•  ๋•Œ ์ด๋ฆ„์„ ์ง€์ •ํ•ด์•ผ ํ•ฉ๋‹ˆ๋‹ค.

eswiki.wikilink_graph.2006-03-01.csv.gz.gz

๋งค์šฐ ํ˜ผ๋ž€์Šค๋Ÿฌ์šด ์ ์€ ํ‘œ์‹œ๋œ MD5๊ฐ€ ์›๋ณธ ํŒŒ์ผ(ํ•œ ๋ฒˆ ์••์ถ•๋จ)์„ ์ฐธ์กฐํ•œ๋‹ค๋Š” ๊ฒƒ์ž…๋‹ˆ๋‹ค.

eswiki.wikilink_graph.2006-03-01.csv.gz

md5:2036a75ed53acdcc81f53061057fe343

๋”ฐ๋ผ์„œ ๋‹ค์šด๋กœ๋“œํ•œ ํŒŒ์ผ๊ณผ ์ผ์น˜ํ•˜์ง€ ์•Š์ง€๋งŒ ์›๋ณธ ํŒŒ์ผ๊ณผ ์ผ์น˜ํ•ฉ๋‹ˆ๋‹ค(ํ•œ ๋ฒˆ๋งŒ ์••์ถ•๋จ).

์ด๊ฒƒ์ด ๋‚ด๊ฐ€ ์–ป์€ ๊ฒƒ์ž…๋‹ˆ๋‹ค (๋‹ค์šด๋กœ๋“œ ํ•œ ํŒŒ์ผ์„ .gz.gz ์œผ๋กœ ์ €์žฅํ•ฉ๋‹ˆ๋‹ค).

$ md5sum eswiki.wikilink_graph.2006-03-01.csv.gz.gz
b32c3b896be22c32bb17b9fe887bda51  eswiki.wikilink_graph.2006-03-01.csv.gz.gz

$ gunzip eswiki.wikilink_graph.2006-03-01.csv.gz.gz

$ md5sum eswiki.wikilink_graph.2006-03-01.csv.gz
2036a75ed53acdcc81f53061057fe343  eswiki.wikilink_graph.2006-03-01.csv.gz

$ sha512sum eswiki.wikilink_graph.2006-03-01.csv.gz
56a48b0f82922fee20c07b0a2480bca1872c5e4aa8521a86e178dc00aea5dd2e4cda4ae05eb1b1950da7447dae70d47d8daa8d7a3c62d6989aaad09bd1fbcc71
 eswiki.wikilink_graph.2006-03-01.csv.gz

$ zcat eswiki.wikilink_graph.2006-03-01.csv.gz | head -n10
page_id_from    page_title_from page_id_to  page_title_to
10  Argentina   3037    10 de enero
10  Argentina   3326    12 de octubre
10  Argentina   6301    13 de abril
10  Argentina   7874    1492
10  Argentina   6302    14 de abril
10  Argentina   14485   1502
10  Argentina   14471   1516
10  Argentina   14450   1536
10  Argentina   14434   1553

๋ณด์‹œ๋‹ค์‹œํ”ผ ๋‹ค์šด๋กœ๋“œํ•œ ํŒŒ์ผ์€ ์ œ๊ณต๋œ MD5์™€ ์ผ์น˜ํ•˜์ง€ ์•Š์œผ๋ฉฐ ํŒŒ์ผ์„ ํ•œ ๋ฒˆ ์••์ถ•์„ ํ’€๋ฉด MD5๊ฐ€ ์ผ์น˜ํ•ฉ๋‹ˆ๋‹ค. ์••์ถ•์„ ํ’€๋ฉด eswiki.wikilink_graph.sha512sums.txt ํŒŒ์ผ์˜ ๋™์ผํ•œ ๋ฐ์ดํ„ฐ ์„ธํŠธ์—์„œ ๋ณ„๋„๋กœ ์ œ๊ณตํ•˜๋Š” SHA512 ํ•ฉ๊ณ„์™€๋„ ์ผ์น˜ํ•ฉ๋‹ˆ๋‹ค.

$ grep '2006-03-01' eswiki.wikilink_graph.sha512sums.txt
56a48b0f82922fee20c07b0a2480bca1872c5e4aa8521a86e178dc00aea5dd2e4cda4ae05eb1b1950da7447dae70d47d8daa8d7a3c62d6989aaad09bd1fbcc71
 eswiki.wikilink_graph.2006-03-01.csv.gz

Zenodo๊ฐ€ ํ…์ŠคํŠธ ํŒŒ์ผ(README ๋ฐ ํ•ด์‹œ์„ฌ ํŒŒ์ผ)์„ ์••์ถ•ํ•˜์ง€ ์•Š๊ณ  ์ด ๋™์ž‘์— ๋Œ€ํ•œ ํ†ต์ง€๊ฐ€ ์—†๊ธฐ ๋•Œ๋ฌธ์— ๋งค์šฐ ์ด์ƒํ•ฉ๋‹ˆ๋‹ค.


ํŽธ์ง‘: ๊ถ๊ธˆํ•œ ๊ฒฝ์šฐ๋ฅผ ๋Œ€๋น„ํ•˜์—ฌ(๋‚ด๊ฐ€ ์ด ๋ฌธ์ œ์— ๋Œ€ํ•ด ๋งํ•œ ๋ชจ๋“  ์‚ฌ๋žŒ๋“ค์ด ์งˆ๋ฌธํ–ˆ๊ธฐ ๋•Œ๋ฌธ์—) ๋‚ด๊ฐ€ ์—…๋กœ๋“œํ•œ ํŒŒ์ผ์€ ํ•œ ๋ฒˆ๋งŒ ์••์ถ•๋˜์—ˆ์œผ๋ฉฐ ๋‚ด ๋””์Šคํฌ์— ์žˆ์œผ๋ฉฐ ์—ฌ์ „ํžˆ ์กด์žฌํ•˜๋ฉฐ ํ•œ ๋ฒˆ ์••์ถ•๋ฉ๋‹ˆ๋‹ค. .

๋ชจ๋“  5 ๋Œ“๊ธ€

๋ฌธ์ œ๋ฅผ ์‹ ๊ณ ํ•ด ์ฃผ์…”์„œ ๊ฐ์‚ฌํ•ฉ๋‹ˆ๋‹ค.

๋ธŒ๋ผ์šฐ์ €๊ฐ€ ๋ณด๋‚ด๋Š” Accept-Encoding: gzip ํ—ค๋”์™€ ๊ด€๋ จ๋œ ๋ฌธ์ œ๋ฅผ ์žฌํ˜„ํ–ˆ์Šต๋‹ˆ๋‹ค.

$ curl -H "Accept-Encoding: gzip" -o eswiki.wikilink_graph.2006-03-01.csv.gz https://zenodo.org/record/2539424/files/eswiki.wikilink_graph.2006-03-01.csv.gz?download=1
$ md5sum eswiki.wikilink_graph.2006-03-01.csv.gz
b32c3b896be22c32bb17b9fe887bda51  eswiki.wikilink_graph.2006-03-01.csv.gz

๋Œ€

$ curl -o eswiki.wikilink_graph.2006-03-01.csv.gz https://zenodo.org/record/2539424/files/eswiki.wikilink_graph.2006-03-01.csv.gz?download=1
$ md5sum eswiki.wikilink_graph.2006-03-01.csv.gz
2036a75ed53acdcc81f53061057fe343  eswiki.wikilink_graph.2006-03-01.csv.gz

๋” ์ž์„ธํžˆ ์‚ดํŽด๋ณด๊ณ  ์žˆ์ง€๋งŒ NGINX ๊ตฌ์„ฑ๊ณผ ๊ด€๋ จ์ด ์žˆ๊ฑฐ๋‚˜ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜ ์„œ๋ฒ„์—์„œ ์ „๋‹ฌ๋˜๋Š” MIME ์œ ํ˜•๊ณผ ๊ด€๋ จ์ด ์žˆ์Šต๋‹ˆ๋‹ค.

์•Œ๊ฒ ์Šต๋‹ˆ๋‹ค. ๋ฌด์Šจ ์ผ์ด ์ผ์–ด๋‚˜๊ณ  ์žˆ๋Š”์ง€ ํŒŒ์•…ํ•œ ๊ฒƒ ๊ฐ™์Šต๋‹ˆ๋‹ค. ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜ ๋ฒ„๊ทธ์™€ ์ž˜๋ชป๋œ ๊ตฌ์„ฑ์˜ ์กฐํ•ฉ์ž…๋‹ˆ๋‹ค.

MIME ์œ ํ˜•์€ ๋‹ค์Œ๊ณผ ์œ ์‚ฌํ•œ ์• ํ”Œ๋ฆฌ์ผ€์ด์…˜ ์„œ๋ฒ„์— ์˜ํ•ด ์ถ”์ธก๋ฉ๋‹ˆ๋‹ค.

>>> import mimetypes
>>> mimetypes.guess_type('eswiki.wikilink_graph.2006-03-01.csv.gz')
('text/csv', 'gzip')

๊ทธ๋Ÿฌ๋‚˜ ์ฒซ ๋ฒˆ์งธ ๋ถ€๋ถ„ text/csv (๋ฒ„๊ทธ)๋งŒ ์‚ฌ์šฉํ•˜๊ณ  ์žˆ์Šต๋‹ˆ๋‹ค. ๋ณด์•ˆ ์กฐ์น˜๋กœ(์‚ฌ์šฉ์ž ์—…๋กœ๋“œ ํŒŒ์ผ์„ ํ—ˆ์šฉํ•˜๊ธฐ ๋•Œ๋ฌธ์—) mimetype์€ ๋ธŒ๋ผ์šฐ์ €๋กœ ์ „์†ก๋˜๊ธฐ ์ „์— ์‚ญ์ œ๋˜์–ด text/csv ๊ฐ€ text/plain ๋กœ ๋ณ€ํ™˜๋ฉ๋‹ˆ๋‹ค. ๊ทธ๋Ÿฐ ๋‹ค์Œ NGINX๋Š” text/plain ํ—ค๋” ๋‚ด์šฉ์„ ํ™•์ธํ•ฉ๋‹ˆ๋‹ค. ์ด ํ—ค๋” ๋‚ด์šฉ์€ ๋Œ€์—ญํญ์„ ์ ˆ์•ฝํ•˜๊ธฐ ์œ„ํ•ด ํด๋ผ์ด์–ธํŠธ์— ๋ณด๋‚ด๊ธฐ ์ „์— ์••์ถ•ํ•˜๋„๋ก ๊ตฌ์„ฑ๋˜์–ด ์žˆ์Šต๋‹ˆ๋‹ค(์ž˜๋ชป ๊ตฌ์„ฑ).

์—„์ฒญ๋‚œ! ๋‚ด๊ฐ€ ๋„์šธ ์ˆ˜ ์žˆ๋Š”์ง€ (๊ทธ๋ฆฌ๊ณ  ์–ด๋–ป๊ฒŒ) ์•Œ๋ ค์ฃผ์„ธ์š”.

๋ถˆํ–‰ํžˆ๋„ NGINX๋ฅผ ์žฌ๊ตฌ์„ฑํ•ด๋„ ๋ฌธ์ œ๊ฐ€ ํ•ด๊ฒฐ๋˜์ง€ ์•Š์•˜์Šต๋‹ˆ๋‹ค. ๋”ฐ๋ผ์„œ ์‘์šฉ ํ”„๋กœ๊ทธ๋žจ์˜ ๋ฒ„๊ทธ๋„ ์ˆ˜์ •ํ•ด์•ผ ํ•˜๋ฏ€๋กœ ์ˆ˜์ •ํ•˜๋Š” ๋ฐ ์‹œ๊ฐ„์ด ์กฐ๊ธˆ ๋” ๊ฑธ๋ฆด ๊ฒƒ์ž…๋‹ˆ๋‹ค. ๋‚˜

์ด ํŽ˜์ด์ง€๊ฐ€ ๋„์›€์ด ๋˜์—ˆ๋‚˜์š”?
0 / 5 - 0 ๋“ฑ๊ธ‰