๋ฒ๊ทธ ์ค๋ช
netapp pvc๋ฅผ ๋ง์ดํธํ ์ ์๊ธฐ ๋๋ฌธ์ ContainerCreating
์ํ์์ ๋ฌด์์๋ก ๋ฉ์ถ ๋ง์ ํฌ๋๋ฅผ ๊ด์ฐฐํ์ต๋๋ค. ํฌ๋๋ฅผ ์ค๋ช
ํ๋ ๋์ iSCSI ์ฅ์น ์ ๋ณด ๋ฐ ํธ๋ผ์ด๋ํธ ๋ฐ๋ชฌ์
๋ก๊ทธ๋ฅผ ๊ฐ์ ธ์ค๋ ๋์ ์๊ฐ ์ด๊ณผ๊ฐ ๋ฐ์ํ์์ ์ค๋ช
ํ๋ฉด ํธ์คํธ์์ blkid
๋ช
๋ น์ ์คํํ๋ ๋์ ์๊ฐ ์ด๊ณผ๊ฐ ๋ฐ์ํ๊ธฐ ๋๋ฌธ์์ ์ ์ ์์ต๋๋ค.
์ด๊ฒ์ ๋ฌด์์๋ก ๋ฐ์ํ๋ฉฐ ์์ง ํน์ pvc ๋ฐ ํธ์คํธ์ ์๊ด ๊ด๊ณ๊ฐ ์์ต๋๋ค.
ํ๊ฒฝ
์ฌํํ๊ธฐ ์ํด
ํด๋ฌ์คํฐ ๋
ธ๋์์ ๋ฌด์์๋ก ๊ด์ฐฐํ ์ ์์ต๋๋ค(ํน์ ํธ์คํธ ๊ทธ๋ฃน๊ณผ ๊ด๋ จ์ด ์๋ ๊ฒ ๊ฐ์ต๋๋ค).
์์๋๋ ํ๋
ํฉ๋ฆฌ์ ์ธ ๊ธฐ๊ฐ ๋ด์ ์ผ๊ด๋ ๋ง์ดํธ ๋์.
์ถ๊ฐ ์ปจํ
์คํธ
"๊ณ ์ ๋" ํฌ๋๋ฅผ ์ค๋ช
ํ๋ฉด ๋ค์์ ํ์ธํ ์ ์์ต๋๋ค.
Events:
Type Reason Age From Message
---- ------ ---- ---- -------
Warning FailedMount 51m (x5 over 72m) kubelet Unable to attach or mount volumes: unmounted volumes=[data], unattached volumes=[data thanos-storage vault-tls thanos-store-token-lj9j5]: timed out waiting for the condition
Warning FailedMount 42m (x3 over 56m) kubelet Unable to attach or mount volumes: unmounted volumes=[data], unattached volumes=[thanos-storage vault-tls thanos-store-token-lj9j5 data]: timed out waiting for the condition
Warning FailedMount 17m (x15 over 74m) kubelet Unable to attach or mount volumes: unmounted volumes=[data], unattached volumes=[vault-tls thanos-store-token-lj9j5 data thanos-storage]: timed out waiting for the condition
Warning FailedMount 14m (x22 over 74m) kubelet MountVolume.MountDevice failed for volume "pvc-e22cdf07-acfc-42af-a46a-bffd5ac32514" : rpc error: code = Internal desc = error getting iSCSI device information: process killed after timeout
Warning FailedMount 4m11s (x4 over 69m) kubelet Unable to attach or mount volumes: unmounted volumes=[data], unattached volumes=[thanos-store-token-lj9j5 data thanos-storage vault-tls]: timed out waiting for the condition
trident daemonset ๊ฐ ํฌ๋ ๋ก๊ทธ์ ๋์ผํ ๋ ธ๋์์:
time="2020-10-14T14:32:41Z" level=debug msg=">>>> osutils.execCommandWithTimeout." args="[if=/dev/sdc bs=4096 count=1 status=none]" command=dd timeoutSeconds=5s
time="2020-10-14T14:32:41Z" level=debug msg="<<<< osutils.execCommandWithTimeout." command=dd error="<nil>"
time="2020-10-14T14:32:41Z" level=debug msg="<<<< osutils.ensureDeviceReadable"
time="2020-10-14T14:32:41Z" level=debug msg=">>>> osutils.getFSType" device=/dev/sdc
time="2020-10-14T14:32:41Z" level=debug msg=">>>> osutils.waitForDevice" device=/dev/sdc
time="2020-10-14T14:32:41Z" level=debug msg="Device found." device=/dev/sdc
time="2020-10-14T14:32:41Z" level=debug msg="<<<< osutils.waitForDevice" device=/dev/sdc
time="2020-10-14T14:32:41Z" level=debug msg=">>>> osutils.execCommandWithTimeout." args="[/dev/sdc]" command=blkid timeoutSeconds=5s
time="2020-10-14T14:32:46Z" level=error msg="process killed after timeout" process=blkid
time="2020-10-14T14:32:46Z" level=debug msg="<<<< osutils.execCommandWithTimeout." command=blkid error="process killed after timeout"
time="2020-10-14T14:32:46Z" level=debug msg="<<<< osutils.getFSType"
time="2020-10-14T14:32:46Z" level=debug msg="<<<< osutils.getDeviceInfoForLUN" iSCSINodeName="iqn.1992-08.com.netapp:sn.0205ffce026911ebb4d9d039ea1a7953:vs.9" lunID=1 needFSType=true
time="2020-10-14T14:32:46Z" level=debug msg="<<<< osutils.AttachISCSIVolume"
time="2020-10-14T14:32:46Z" level=debug msg="<<<< NodeStageVolume" Method=NodeStageVolume Type=CSI_Node
time="2020-10-14T14:32:46Z" level=debug msg="Released shared lock (NodeStageVolume-pvc-e22cdf07-acfc-42af-a46a-bffd5ac32514)." lock=csi_node_server
time="2020-10-14T14:32:46Z" level=error msg="GRPC error: rpc error: code = Internal desc = error getting iSCSI device information: process killed after timeout"
blkid
๋ ํ์ฉ๋ ์๊ฐ ์ฐฝ(?)
ํธ์คํธ์ sshํ๊ณ ๋์ผํ ๋ช
๋ น์ ์๋ํ๋ ๊ฒฝ์ฐ:
$ time sudo blkid /dev/sdc
/dev/sdc: UUID="f593b708-ed88-47b7-88ce-f9b8c85ab96b" TYPE="ext4"
real 0m36.393s
user 0m0.016s
sys 0m0.021s
๋ฐฑ์๋ json ๊ตฌ์ฑ:
```
{
"๋ฒ์ ": 1,
"storageDriverName": "ontap-san",
"๊ด๋ฆฌLIF": "10.20.50.6",
"dataLIF": "10.20.50.4",
"svm": "dev_kube",
"igroupName": "dev_kube_trident",
"์ฌ์ฉ์ ์ด๋ฆ": "xxxxxxxxx",
"๋น๋ฐ๋ฒํธ": "xxxxxxxxxxxx",
"๊ธฐ๋ณธ๊ฐ": {
"์ํธํ": "์ฐธ"
}
}
````
์ฐ๋ฆฌ๋ ์ฌ๊ธฐ์์ ์ ๋ง ๋งํ์ต๋๋ค. ๊ทธ๋์ ์ด๊ฒ์ ๋ํ ์ด๋ค ๋์๋ ๋๋จํ ๊ฐ์ฌํ ๊ฒ์ ๋๋ค!
์๋ ํ์ธ์ @ffilippopoulos ,
์ง์ ํ๋ฏ์ด blkid๋ ํธ์คํธ ์์ค ๋ช ๋ น์ ๋๋ค. ์๊ฐ์ด ์ด๊ณผ๋๊ธฐ ์ ์ ์ด ๋ช ๋ น์ด ๋ฐํ๋๋ ๊ธฐ๋ฅ์ Trident๊ฐ ์ ์ดํ ์ ์๋ ๊ฒ์ด ์๋๋๋ค. Trident๋ ๊ธฐ๋ณธ์ ์ผ๋ก ํธ์คํธ๋ก sshํ๊ณ ์ ธ์์ blkid๋ฅผ ์คํํ ๋ ์ํํ๋ ๊ฒ๊ณผ ๋์ผํ ์์ ์ ์ํํฉ๋๋ค. ํธ์คํธ์ ๋ถํ๋ฅผ ์กฐ์ฌํ์ต๋๊น?
๋ํ ์ด ๋ฌธ์ ์ ๊ด๋ จํ์ฌ ์ฆ๊ฐ์ ์ธ ์ง์์ด ํ์ํ ๊ฒฝ์ฐ NetApp ์ง์์ ๋ฌธ์ํ์ญ์์ค.
NetApp์ผ๋ก ์ฌ๋ก๋ฅผ ์ด๋ ค๋ฉด https://mysupport.netapp.com/site/๋ก ์ด๋ํ์ญ์์ค.
์ผ์ชฝ ํ๋จ '์ง์ ๋ฌธ์' ํด๋ฆญ
๊ทํ์ ์ง์ญ์์ ์ ํ๋ฅผ ๊ฑธ๊ฑฐ๋ ๋ก๊ทธ์ธํ ์ ์ ํ ๋ฒํธ๋ฅผ ์ฐพ์ผ์ญ์์ค.
์ฐธ๊ณ : Trident๋ ํ์ด์ง์ ๋์ด๋์ง ์์ง๋ง ์ง์๋๋ Netapp ์คํ ๋ฆฌ์ง SN์ ๊ธฐ๋ฐ์ผ๋ก NetApp์์ ์ง์ํ๋ ์ ํ์
๋๋ค.
NetApp ์คํ ๋ฆฌ์ง SN์ ์ผ์ด์ค๋ฅผ ์ด๊ณ ๋ฌธ์ ์ ๋ํ ์ค๋ช
์ ์ ๊ณตํฉ๋๋ค.
์ ํ์ด Kubernetes์ Trident์์ ์ธ๊ธํ๊ณ ์ธ๋ถ ์ ๋ณด๋ฅผ ์ ๊ณตํ์ญ์์ค. ์ด GitHub๋ฅผ ์ธ๊ธํ์ญ์์ค.
์ฌ๋ก๋ ์๋ต์ ์ํด Trident ์ง์ ์์ง๋์ด์๊ฒ ์ ๋ฌ๋ฉ๋๋ค.
์๋ ํ์ธ์ @gnarl ๋น ๋ฅธ ๋ต๋ณ ๊ฐ์ฌํฉ๋๋ค. ๋ด๊ฐ ๋ณผ ์์๋ ํ tridents ํ๋์์๋์ด ๋ช ๋ น์๋ 5 ์ด์ ์ ํ ์๊ฐ์ด ์์ต๋๋ค.
๋ด๊ฐ ๋ณผ ์ ์๋ ํ ์ฐ๋ฆฌ ๋
ธ๋๊ฐ ์ ํ ๋ก๋๋์ง ์์์ผ๋ฉฐ(์๋ฅผ ๋ค์ด ๋
ธ๋์์ ์ด์ load average: 0.54, 0.62, 0.61
๋ฌธ์ ๊ฐ ํ์๋จ) ์ด๊ฒ์ด ์ฐ๋ฆฌ๊ฐ ๊ด์ฐฐํ๋ ๋์์ ์ค๋ช
ํ ๊ฒ์ด๋ผ๊ณ ์๊ฐํ์ง ์์ต๋๋ค.
ํ๋์ฝ๋ฉ๋ ์๊ฐ ์ด๊ณผ์ ๋ํ ์ด์ ๊ฐ ์์ต๋๊น? ์ฐ๋ฆฌ๊ฐ ์์ง ๋ชปํ๋ ์ด๋ค ์ฌ๊ฑด์ ์๋ฐฉํ๊ณ ์์ต๋๊น?
@ffilippopoulos , blkid๋ ์คํํ๋ ๋ฐ ๊ฑฐ์ 5์ด๊ฐ ๊ฑธ๋ฆฌ์ง ์์์ผ ํฉ๋๋ค. ํธ์คํธ์ ๋ก๋๊ฐ ์ํธํด ๋ณด์ด๋ฉด ํธ์คํธ์ NetApp dataLIF ๊ฐ์ ๋คํธ์ํฌ ๋๊ธฐ ์๊ฐ์ ์กฐ์ฌํ ์ ์์ต๋๊น?
blkid๊ฐ ์๋ํ์ง ์์ผ๋ฉด Trident๊ฐ ๋ณผ๋ฅจ์ ์์ ํ๊ฒ ์ฐ๊ฒฐํ ์ ์๊ธฐ ๋๋ฌธ์ blkid์ ๋ํ ํ๋ ํ์์์์ด ์์ต๋๋ค.
๋คํธ์ํฌ ๋งํฌ ์๋๋ฅผ ๋๋ฒ๊น ํ ์ดํ๋ก ๋ณธ ์ ์ด ์์ผ๋ฏ๋ก ๋ซ์ต๋๋ค. ๋์์ ์ฃผ์ ์ ๋๋จํ ๊ฐ์ฌํฉ๋๋ค! :))
๊ฐ์ฅ ์ ์ฉํ ๋๊ธ
๋คํธ์ํฌ ๋งํฌ ์๋๋ฅผ ๋๋ฒ๊น ํ ์ดํ๋ก ๋ณธ ์ ์ด ์์ผ๋ฏ๋ก ๋ซ์ต๋๋ค. ๋์์ ์ฃผ์ ์ ๋๋จํ ๊ฐ์ฌํฉ๋๋ค! :))