Kubeadm: बग रिपोर्ट: क्यूबलेट cgroup ड्राइवर

त्रुटि: क्यूबलेट चलाने में विफल: क्यूबलेट बनाने में विफल: ग़लतफ़हमी: क्यूबलेट cgroup ड्राइवर: "cgroupfs" docker cgroup ड्राइवर से अलग है: "systemd"

docker जानकारी | grep -i cgroup
Cgroup Driver: systemd

मैं इसकी पुष्टि कर सकता हूं।

@ lavender2020 आपको सेवा को पुनः आरंभ करने के लिए मैन्युअल रूप से --cgroup-driver=systemd से kubelet स्टार्टअप और पुनः लोड करना क्यूबलेट यूनिट फ़ाइल की आवश्यकता होगी।

डिफ़ॉल्ट ड्राइवर जो होस्ट पर cgroups को हेरफेर करने के लिए kubelet का उपयोग करता है, वह cgroupfs ।

ज्यादातर लोग बहुत जल्दी जल्दी एक क्लस्टर स्थापित करने के लिए kubeadm ओर मुड़ते हैं। यह सरल और व्यावहारिक है。

@luxas क्या हम अधिक स्पष्ट चेतावनी देने के लिए docker और kubelet बीच cgroup ड्राइवर की संगति पर प्रीफ़िल्ट चेक जोड़ेंगे? या kubelet.service लिए एक और ड्रॉप-इन जोड़ें? या बस /etc/systemd/system/kubelet.service.d/10-kubeadm.conf जगह में संशोधित करें?

लेकिन अगर ऐसा है, तो हमें इन परिवर्तनों को लेने के लिए रूट विशेषाधिकार प्राप्त करने की आवश्यकता हो सकती है।

मैं kubeadm v1.9.2 साथ इसी मुद्दे को हिट करता हूं, लेकिन मैं देख सकता हूं कि systemd cgroup ड्राइवर का उपयोग करने के लिए kublet कॉन्फ़िगर किया गया है।

kubelet --cgroup-driver = systemd का उपयोग कर रहा है

cat /etc/systemd/system/kubelet.service.d/10-kubeadm.conf
[Service]
Environment="KUBELET_KUBECONFIG_ARGS=--bootstrap-kubeconfig=/etc/kubernetes/bootstrap-kubelet.conf --kubeconfig=/etc/kubernetes/kubelet.conf"
Environment="KUBELET_SYSTEM_PODS_ARGS=--pod-manifest-path=/etc/kubernetes/manifests --allow-privileged=true"
Environment="KUBELET_NETWORK_ARGS=--network-plugin=cni --cni-conf-dir=/etc/cni/net.d --cni-bin-dir=/opt/cni/bin"
Environment="KUBELET_DNS_ARGS=--cluster-dns=10.96.0.10 --cluster-domain=cluster.local"
Environment="KUBELET_AUTHZ_ARGS=--authorization-mode=Webhook --client-ca-file=/etc/kubernetes/pki/ca.crt"
Environment="KUBELET_CADVISOR_ARGS=--cadvisor-port=0"
Environment="KUBELET_CGROUP_ARGS=--cgroup-driver=systemd"
Environment="KUBELET_CERTIFICATE_ARGS=--rotate-certificates=true --cert-dir=/var/lib/kubelet/pki"
ExecStart=
ExecStart=/usr/bin/kubelet $KUBELET_KUBECONFIG_ARGS $KUBELET_SYSTEM_PODS_ARGS $KUBELET_NETWORK_ARGS $KUBELET_DNS_ARGS $KUBELET_AUTHZ_ARGS $KUBELET_CADVISOR_ARGS $KUBELET_CGROUP_ARGS $KUBELET_CERTIFICATE_ARGS $KUBELET_EXTRA_ARGS

docker जानकारी |

 WARNING: Usage of loopback devices is strongly discouraged for production use. Use `--storage-opt dm.thinpooldev` to specify a custom block storage device.
Cgroup Driver: systemd

क्यूबलेट लॉग

I0206 16:20:40.010949    5712 feature_gate.go:220] feature gates: &{{} map[]}
I0206 16:20:40.011054    5712 controller.go:114] kubelet config controller: starting controller
I0206 16:20:40.011061    5712 controller.go:118] kubelet config controller: validating combination of defaults and flags
W0206 16:20:40.015566    5712 cni.go:171] Unable to update cni config: No networks found in /etc/cni/net.d
I0206 16:20:40.019079    5712 server.go:182] Version: v1.9.2
I0206 16:20:40.019136    5712 feature_gate.go:220] feature gates: &{{} map[]}
I0206 16:20:40.019240    5712 plugins.go:101] No cloud provider specified.
W0206 16:20:40.019273    5712 server.go:328] standalone mode, no API client
W0206 16:20:40.041031    5712 server.go:236] No api server defined - no events will be sent to API server.
I0206 16:20:40.041058    5712 server.go:428] --cgroups-per-qos enabled, but --cgroup-root was not specified.  defaulting to /
I0206 16:20:40.041295    5712 container_manager_linux.go:242] container manager verified user specified cgroup-root exists: /
I0206 16:20:40.041308    5712 container_manager_linux.go:247] Creating Container Manager object based on Node Config: {RuntimeCgroupsName: SystemCgroupsName: KubeletCgroupsName: ContainerRuntime:docker CgroupsPerQOS:true CgroupRoot:/ CgroupDriver:cgroupfs KubeletRootDir:/var/lib/kubelet ProtectKernelDefaults:false NodeAllocatableConfig:{KubeReservedCgroupName: SystemReservedCgroupName: EnforceNodeAllocatable:map[pods:{}] KubeReserved:map[] SystemReserved:map[] HardEvictionThresholds:[{Signal:memory.available Operator:LessThan Value:{Quantity:100Mi Percentage:0} GracePeriod:0s MinReclaim:<nil>} {Signal:nodefs.available Operator:LessThan Value:{Quantity:<nil> Percentage:0.1} GracePeriod:0s MinReclaim:<nil>} {Signal:nodefs.inodesFree Operator:LessThan Value:{Quantity:<nil> Percentage:0.05} GracePeriod:0s MinReclaim:<nil>} {Signal:imagefs.available Operator:LessThan Value:{Quantity:<nil> Percentage:0.15} GracePeriod:0s MinReclaim:<nil>}]} ExperimentalQOSReserved:map[] ExperimentalCPUManagerPolicy:none ExperimentalCPUManagerReconcilePeriod:10s}
I0206 16:20:40.041412    5712 container_manager_linux.go:266] Creating device plugin manager: false
W0206 16:20:40.043521    5712 kubelet_network.go:139] Hairpin mode set to "promiscuous-bridge" but kubenet is not enabled, falling back to "hairpin-veth"
I0206 16:20:40.043541    5712 kubelet.go:571] Hairpin mode set to "hairpin-veth"
I0206 16:20:40.044909    5712 client.go:80] Connecting to docker on unix:///var/run/docker.sock
I0206 16:20:40.044937    5712 client.go:109] Start docker client with request timeout=2m0s
W0206 16:20:40.046785    5712 cni.go:171] Unable to update cni config: No networks found in /etc/cni/net.d
I0206 16:20:40.049953    5712 docker_service.go:232] Docker cri networking managed by kubernetes.io/no-op
I0206 16:20:40.055138    5712 docker_service.go:237] Docker Info: &{ID:ZXWO:G2FL:QM3S:IAWM:ITQL:XHRH:ZA3T:FJMV:5JDW:IMKI:NIFS:2Z4M Containers:8 ContainersRunning:0 ContainersPaused:0 ContainersStopped:8 Images:11 Driver:devicemapper DriverStatus:[[Pool Name docker-253:0-33593794-pool] [Pool Blocksize 65.54 kB] [Base Device Size 10.74 GB] [Backing Filesystem xfs] [Data file /dev/loop0] [Metadata file /dev/loop1] [Data Space Used 1.775 GB] [Data Space Total 107.4 GB] [Data Space Available 14.72 GB] [Metadata Space Used 2.093 MB] [Metadata Space Total 2.147 GB] [Metadata Space Available 2.145 GB] [Thin Pool Minimum Free Space 10.74 GB] [Udev Sync Supported true] [Deferred Removal Enabled true] [Deferred Deletion Enabled true] [Deferred Deleted Device Count 0] [Data loop file /var/lib/docker/devicemapper/devicemapper/data] [Metadata loop file /var/lib/docker/devicemapper/devicemapper/metadata] [Library Version 1.02.140-RHEL7 (2017-05-03)]] SystemStatus:[] Plugins:{Volume:[local] Network:[overlay host null bridge] Authorization:[] Log:[]} MemoryLimit:true SwapLimit:true KernelMemory:true CPUCfsPeriod:true CPUCfsQuota:true CPUShares:true CPUSet:true IPv4Forwarding:true BridgeNfIptables:true BridgeNfIP6tables:true Debug:true NFd:16 OomKillDisable:true NGoroutines:25 SystemTime:2018-02-06T16:20:40.054685386Z LoggingDriver:journald CgroupDriver:systemd NEventsListener:0 KernelVersion:3.10.0-693.el7.x86_64 OperatingSystem:CentOS Linux 7 (Core) OSType:linux Architecture:x86_64 IndexServerAddress:https://index.docker.io/v1/ RegistryConfig:0xc42021a380 NCPU:2 MemTotal:2097782784 GenericResources:[] DockerRootDir:/var/lib/docker HTTPProxy: HTTPSProxy: NoProxy: Name:master1 Labels:[] ExperimentalBuild:false ServerVersion:1.12.6 ClusterStore: ClusterAdvertise: Runtimes:map[docker-runc:{Path:/usr/libexec/docker/docker-runc-current Args:[]} runc:{Path:docker-runc Args:[]}] DefaultRuntime:docker-runc Swarm:{NodeID: NodeAddr: LocalNodeState:inactive ControlAvailable:false Error: RemoteManagers:[] Nodes:0 Managers:0 Cluster:0xc420472640} LiveRestoreEnabled:false Isolation: InitBinary: ContainerdCommit:{ID: Expected:} RuncCommit:{ID: Expected:} InitCommit:{ID: Expected:} SecurityOptions:[seccomp]}
error: failed to run Kubelet: failed to create kubelet: misconfiguration: kubelet cgroup driver: "cgroupfs" is different from docker cgroup driver: "systemd"

संस्करण की जानकारी:

 kubeadm version
kubeadm version: &version.Info{Major:"1", Minor:"9", GitVersion:"v1.9.2", GitCommit:"5fa2db2bd46ac79e5e00a4e6ed24191080aa463b", GitTreeState:"clean", BuildDate:"2018-01-18T09:42:01Z", GoVersion:"go1.9.2", Compiler:"gc", Platform:"linux/amd64"}

kubelet --version
Kubernetes v1.9.2

docker version
Client:
 Version:         1.12.6
 API version:     1.24
 Package version: docker-1.12.6-71.git3e8e77d.el7.centos.1.x86_64
 Go version:      go1.8.3
 Git commit:      3e8e77d/1.12.6
 Built:           Tue Jan 30 09:17:00 2018
 OS/Arch:         linux/amd64

Server:
 Version:         1.12.6
 API version:     1.24
 Package version: docker-1.12.6-71.git3e8e77d.el7.centos.1.x86_64
 Go version:      go1.8.3
 Git commit:      3e8e77d/1.12.6
 Built:           Tue Jan 30 09:17:00 2018
 OS/Arch:         linux/amd64

@dkirrane क्या आपने kubelet.service यूनिट फ़ाइल पुनः लोड की है?

systemctl daemon-reload चलाएँ। और फिर systemctl restart kubelet ।

यह मुद्दा 1.9.3 पर तय नहीं किया गया था

संस्करण की जानकारी:

kubeadm version
kubeadm version: &version.Info{Major:"1", Minor:"9", GitVersion:"v1.9.3", GitCommit:"d2835416544f298c919e2ead3be3d0864b52323b", GitTreeState:"clean", BuildDate:"2018-02-07T11:55:20Z", GoVersion:"go1.9.2", Compiler:"gc", Platform:"linux/amd64"}

kubelet --version
Kubernetes v1.9.3

 docker version
Client:
 Version:      1.13.1
 API version:  1.26
 Go version:   go1.6.2
 Git commit:   092cba3
 Built:        Thu Nov  2 20:40:23 2017
 OS/Arch:      linux/amd64

Server:
 Version:      1.13.1
 API version:  1.26 (minimum version 1.12)
 Go version:   go1.6.2
 Git commit:   092cba3
 Built:        Thu Nov  2 20:40:23 2017
 OS/Arch:      linux/amd64
 Experimental: false

@gades आपका cgroup ड्राइवर क्या है?

$ docker info | grep -i cgroup

एक ही समस्या होने।

docker info | grep -i cgroup
Cgroup Driver: systemd

cat /etc/systemd/system/kubelet.service.d/10-kubeadm.conf
[Service]
Environment="KUBELET_KUBECONFIG_ARGS=--bootstrap-kubeconfig=/etc/kubernetes/bootstrap-kubelet.conf --kubeconfig=/etc/kubernetes/kubelet.conf"
Environment="KUBELET_SYSTEM_PODS_ARGS=--pod-manifest-path=/etc/kubernetes/manifests --allow-privileged=true"
Environment="KUBELET_NETWORK_ARGS=--network-plugin=cni --cni-conf-dir=/etc/cni/net.d --cni-bin-dir=/opt/cni/bin"
Environment="KUBELET_DNS_ARGS=--cluster-dns=10.96.0.10 --cluster-domain=cluster.local"
Environment="KUBELET_AUTHZ_ARGS=--authorization-mode=Webhook --client-ca-file=/etc/kubernetes/pki/ca.crt"
Environment="KUBELET_CADVISOR_ARGS=--cadvisor-port=0"
Environment="KUBELET_CGROUP_ARGS=--cgroup-driver=systemd"
Environment="KUBELET_CERTIFICATE_ARGS=--rotate-certificates=true --cert-dir=/var/lib/kubelet/pki"
ExecStart=
ExecStart=/usr/bin/kubelet $KUBELET_KUBECONFIG_ARGS $KUBELET_SYSTEM_PODS_ARGS $KUBELET_NETWORK_ARGS $KUBELET_DNS_ARGS $KUBELET_AUTHZ_ARGS $KUBELET_CADVISOR_ARGS $KUBELET_CGROUP_ARGS $KUBELET_CERTIFICATE_ARGS $KUBELET_EXTRA_ARGS

I0227 13:17:43.802942    3493 docker_service.go:237] Docker Info: &{ID:RJUG:6DLB:A4JM:4T6H:JYKO:7JUC:NQCI:SLI2:DC64:ZXOT:DIX6:ASJY Containers:0 ContainersRunning:0 ContainersPaused:0 ContainersStopped:0 Images:0 Driver:overlay DriverStatus:[[Backing Filesystem extfs]] SystemStatus:[] Plugins:{Volume:[local] Network:[bridge overlay null host] Authorization:[] Log:[]} MemoryLimit:true SwapLimit:true KernelMemory:true CPUCfsPeriod:true CPUCfsQuota:true CPUShares:true CPUSet:true IPv4Forwarding:true BridgeNfIptables:true BridgeNfIP6tables:true Debug:false NFd:26 OomKillDisable:true NGoroutines:47 SystemTime:2018-02-27T13:17:43.802488651-08:00 LoggingDriver:journald CgroupDriver:systemd NEventsListener:0 KernelVersion:3.10.0-693.11.6.el7.x86_64 OperatingSystem:CentOS Linux 7 (Core) OSType:linux Architecture:x86_64 IndexServerAddress:https://index.docker.io/v1/ RegistryConfig:0xc42033d7a0 NCPU:64 MemTotal:270186274816 GenericResources:[] DockerRootDir:/var/lib/docker HTTPProxy: HTTPSProxy: NoProxy: Name:param03.lancelot.cluster.bds Labels:[] ExperimentalBuild:false ServerVersion:1.12.6 ClusterStore: ClusterAdvertise: Runtimes:map[docker-runc:{Path:/usr/libexec/docker/docker-runc-current Args:[]} runc:{Path:docker-runc Args:[]}] DefaultRuntime:docker-runc Swarm:{NodeID: NodeAddr: LocalNodeState:inactive ControlAvailable:false Error: RemoteManagers:[] Nodes:0 Managers:0 Cluster:0xc420360640} LiveRestoreEnabled:false Isolation: InitBinary: ContainerdCommit:{ID: Expected:} RuncCommit:{ID: Expected:} InitCommit:{ID: Expected:} SecurityOptions:[seccomp]}
error: failed to run Kubelet: failed to create kubelet: misconfiguration: kubelet cgroup driver: "cgroupfs" is different from docker cgroup driver: "systemd"

कहीं और है कि क्यूबलेट को cgroupfs ड्राइवर निर्देश मिल रहा है?

@ mas-dse-greina कृपया मेरी टिप्पणी में समाधान देखें।

@dixudx --cgroup-driver=systemd से /etc/systemd/system/kubelet.service.d/10-kubeadm.conf जुड़ने के बाद भी समस्या अभी भी बनी हुई है।

यह नवीनतम फ़ाइल है,
[Service] Environment="KUBELET_KUBECONFIG_ARGS=--bootstrap-kubeconfig=/etc/kubernetes/bootstrap-kubelet.conf --kubeconfig=/etc/kubernetes/kubelet.conf" Environment="KUBELET_SYSTEM_PODS_ARGS=--pod-manifest-path=/etc/kubernetes/manifests --allow-privileged=true" Environment="KUBELET_NETWORK_ARGS=--network-plugin=cni --cni-conf-dir=/etc/cni/net.d --cni-bin-dir=/opt/cni/bin" Environment="KUBELET_DNS_ARGS=--cluster-dns=10.96.0.10 --cluster-domain=cluster.local" Environment="KUBELET_AUTHZ_ARGS=--authorization-mode=Webhook --client-ca-file=/etc/kubernetes/pki/ca.crt" Environment="KUBELET_CADVISOR_ARGS=--cadvisor-port=0" Environment="KUBELET_CERTIFICATE_ARGS=--rotate-certificates=true --cert-dir=/var/lib/kubelet/pki" ExecStart= ExecStart=/usr/bin/kubelet --cgroup-driver=systemd $KUBELET_KUBECONFIG_ARGS $KUBELET_SYSTEM_PODS_ARGS $KUBELET_NETWORK_ARGS $KUBELET_DNS_ARGS $KUBELET_AUTHZ_ARGS $KUBELET_CADVISOR_ARGS $KUBELET_CERTIFICATE_ARGS $KUBELET_EXTRA_ARGS

पुनश्च: यह तय हो गया। डेमन और क्यूबलेट को पुनः आरंभ करने के बाद, मैंने kubeadm init --pod-network-cidr = 10.244.0.0 / 16 का उपयोग किया है

हाँ। मैं उसी चीज को पा रहा हूं। - cgroup-driver = systemd को लागू करना
कोई प्रभाव नहीं लगता है। मैंने सेवा फिर से शुरू कर दी है
कंप्यूटर को रिबूट किया।

ऐसा लगता है कि व्यवहार सिर्फ इस एक मशीन पर है। मैंने किया है
4 अन्य मशीनों के साथ सफल, लेकिन यह सिर्फ एक नहीं करना चाहता है
क्लस्टर में शामिल हों।

-टोनी

Thu, Mar 1, 2018 को सुबह 11:44 बजे, srinivas491-oneconvergence <
सूचनाएं@github.com> ने लिखा:

@dixudx https://github.com/dixudx एप्लाई करने के बाद भी
--cgroup-driver = systemd to / etc / systemd / system / kubelet।
service.d / 10-kubeadm.conf समस्या अभी भी बनी हुई है।

-
आप इसका उल्लेख कर रहे हैं क्योंकि आपका उल्लेख किया गया था।
इस ईमेल का उत्तर सीधे दें, इसे GitHub पर देखें
https://github.com/kubernetes/kubeadm/issues/639#issuecomment-36970772323 ,
या धागा म्यूट करें
https://github.com/notifications/unsubscribe-auth/AVReEuQHJR80-8J4VLvACnGt1lTjEbYrks5taE-BgaJpZMMRRSs0P
।

इकाई फ़ाइल को बदलने के बाद आपको परिवर्तन लेने के लिए systemdctl daemon-reload आवश्यकता होती है।

FWIW यह RPMs में डिफ़ॉल्ट है, लेकिन .debs में नहीं। क्या मुख्य समर्थन में कोई मौजूदा वितरण है जो अब सिस्टमड के लिए डिफ़ॉल्ट नहीं है?

/ असाइन करें @detiber

मैंने इसी मुद्दे को kubeadm v1.9.3 और v1.9.4 के साथ मारा।

- क्यूग्रुप-ड्राइवर = सिस्टमड के साथ क्यूबलेट शुरू करें

$ cat /etc/systemd/system/kubelet.service.d/10-kubeadm.conf
[Service]
Environment="KUBELET_KUBECONFIG_ARGS=--bootstrap-kubeconfig=/etc/kubernetes/bootstrap-kubelet.conf --kubeconfig=/etc/kubernetes/kubelet.conf"
Environment="KUBELET_SYSTEM_PODS_ARGS=--pod-manifest-path=/etc/kubernetes/manifests --allow-privileged=true"
Environment="KUBELET_NETWORK_ARGS=--network-plugin=cni --cni-conf-dir=/etc/cni/net.d --cni-bin-dir=/opt/cni/bin"
Environment="KUBELET_DNS_ARGS=--cluster-dns=10.96.0.10 --cluster-domain=cluster.local"
Environment="KUBELET_AUTHZ_ARGS=--authorization-mode=Webhook --client-ca-file=/etc/kubernetes/pki/ca.crt"
Environment="KUBELET_CADVISOR_ARGS=--cadvisor-port=0"
Environment="KUBELET_CGROUP_ARGS=--cgroup-driver=systemd"
Environment="KUBELET_CERTIFICATE_ARGS=--rotate-certificates=true --cert-dir=/var/lib/kubelet/pki"
ExecStart=
ExecStart=/usr/bin/kubelet $KUBELET_KUBECONFIG_ARGS $KUBELET_SYSTEM_PODS_ARGS $KUBELET_NETWORK_ARGS $KUBELET_DNS_ARGS $KUBELET_AUTHZ_ARGS $KUBELET_CADVISOR_ARGS $KUBELET_CGROUP_ARGS $KUBELET_CERTIFICATE_ARGS $KUBELET_EXTRA_ARGS

पुनः लोड सेवा

$ systemctl daemon-reload
$ systemctl restart kubelet

चेक करने वाले की जानकारी

$ docker info |grep -i cgroup
 WARNING: Usage of loopback devices is strongly discouraged for production use. Use `--storage-opt dm.thinpooldev` to specify a custom block storage device.
Cgroup Driver: systemd

क्यूबलेट लॉग

$ kubelet logs
error: failed to run Kubelet: failed to create kubelet: misconfiguration: kubelet cgroup driver: "cgroupfs" is different from docker cgroup driver: "systemd"

संस्करण की जानकारी

$ kubeadm version
kubeadm version: &version.Info{Major:"1", Minor:"9", GitVersion:"v1.9.3", GitCommit:"d2835416544f298c919e2ead3be3d0864b52323b", GitTreeState:"clean", BuildDate:"2018-02-07T11:55:20Z", GoVersion:"go1.9.2", Compiler:"gc", Platform:"linux/amd64"}

$ kubelet --version
Kubernetes v1.9.3

$ docker version
Client:
 Version:         1.12.6
 API version:     1.24
 Package version: docker-1.12.6-71.git3e8e77d.el7.centos.1.x86_64
 Go version:      go1.8.3
 Git commit:      3e8e77d/1.12.6
 Built:           Tue Jan 30 09:17:00 2018
 OS/Arch:         linux/amd64

Server:
 Version:         1.12.6
 API version:     1.24
 Package version: docker-1.12.6-71.git3e8e77d.el7.centos.1.x86_64
 Go version:      go1.8.3
 Git commit:      3e8e77d/1.12.6
 Built:           Tue Jan 30 09:17:00 2018
 OS/Arch:         linux/amd64

$ cat /etc/redhat-release 
CentOS Linux release 7.2.1511 (Core) 

@FrostyLeaf आप क्यूबलेट चलाने की कमांड लाइन देख सकते हैं कि क्या cgroup ड्राइवर को वहां निर्दिष्ट किया गया है?

ps aux |grep kubelet या cat /proc/<kubelet pid>/cmdline देखने में आपकी सहायता करनी चाहिए।

@ bart0sh यह है:

$  ps aux |grep /bin/kubelet
root     13025  0.0  0.0 112672   980 pts/4    S+   01:49   0:00 grep --color=auto /bin/kubelet
root     30495  4.5  0.6 546152 76924 ?        Ssl  00:14   4:22 /usr/bin/kubelet --bootstrap-kubeconfig=/etc/kubernetes/bootstrap-kubelet.conf --kubeconfig=/etc/kubernetes/kubelet.conf --pod-manifest-path=/etc/kubernetes/manifests --allow-privileged=true --network-plugin=cni --cni-conf-dir=/etc/cni/net.d --cni-bin-dir=/opt/cni/bin --cluster-dns=10.96.0.10 --cluster-domain=cluster.local --authorization-mode=Webhook --client-ca-file=/etc/kubernetes/pki/ca.crt --cadvisor-port=0 --cgroup-driver=systemd --rotate-certificates=true --cert-dir=/var/lib/kubelet/pki --fail-swap-on=false

@FrostyLeaf धन्यवाद! मैं इसे भी पुन: पेश कर सकता था। बग लगता है। इसे देखते हुए।

अस्थायी वर्कअराउंड के रूप में आप dog और क्यूबलेट को cgroupfs ड्राइवर पर स्विच कर सकते हैं। यह काम करना चाहिए।

@ bart0sh ललित। बहुत बहुत धन्यवाद। मैं कोशिश करूँगा कि

मुझे भी।

संदर्भ मेजबान = CentOS 7.4, अतिथि = VirtualBox = संस्करण 5.2.8 r121009 (Qt5.6.1)

[root<strong i="7">@kubernetes</strong> ~]# cat /etc/redhat-release 
CentOS Linux release 7.4.1708 (Core) 

`` `बाश
[ रूट @ कुबेरनेट्स ~] # क्यूबलेट --version
कुबेरनेट्स v1.9.4

```bash
[root<strong i="14">@kubernetes</strong> ~]# docker version
Client:
 Version:         1.13.1
 API version:     1.26
 Package version: <unknown>
 Go version:      go1.8.3
 Git commit:      774336d/1.13.1
 Built:           Wed Mar  7 17:06:16 2018
 OS/Arch:         linux/amd64

Server:
 Version:         1.13.1
 API version:     1.26 (minimum version 1.12)
 Package version: <unknown>
 Go version:      go1.8.3
 Git commit:      774336d/1.13.1
 Built:           Wed Mar  7 17:06:16 2018
 OS/Arch:         linux/amd64
 Experimental:    false

`` `बाश
[ रूट @ kubernetes ~] # kubeadm संस्करण
kubeadm संस्करण: & version.Info {मेजर: "1", माइनर: "9", GitVersion: "v1.9.4", GitCommit: "bee2d1505c4fe8207442626d41ecd3fdd4a3d6546", GitTreeState: "स्वच्छ", "बिल्ड" 35Z ", GoVersion:" go1.9.3 ", कंपाइलर:" gc ", प्लेटफ़ॉर्म:" linux / am6464 "}

### docker Cgroup is systemd
```bash
 [root<strong i="21">@kubernetes</strong> ~]# docker info | grep Cgroup
  WARNING: You're not using the default seccomp profile
Cgroup Driver: systemd

kubelet.service Cgroup = systemd के साथ शुरू हुआ

[root<strong i="25">@kubernetes</strong> ~]# grep cgroup /etc/systemd/system/kubelet.service.d/10-kubeadm.conf 
Environment="KUBELET_CGROUP_ARGS=--cgroup-driver=systemd --runtime-cgroups=/systemd/system.slice --kubelet-cgroups=/systemd/system.slice"

systemctl पुनः लोड करें और क्यूबलेट सेवा को पुनरारंभ करें

[root<strong i="29">@kubernetes</strong> ~]# systemctl daemon-reload
[root<strong i="30">@kubernetes</strong> ~]# systemctl stop kubelet.service
[root<strong i="31">@kubernetes</strong> ~]# systemctl start kubelet.service

क्यूबलेट लॉग

[root<strong i="6">@kubernetes</strong> ~]# kubelet logs
I0318 02:07:10.006151   29652 feature_gate.go:226] feature gates: &{{} map[]}
I0318 02:07:10.006310   29652 controller.go:114] kubelet config controller: starting controller
I0318 02:07:10.006315   29652 controller.go:118] kubelet config controller: validating combination of defaults and flags
I0318 02:07:10.018880   29652 server.go:182] Version: v1.9.4
I0318 02:07:10.018986   29652 feature_gate.go:226] feature gates: &{{} map[]}
I0318 02:07:10.019118   29652 plugins.go:101] No cloud provider specified.
W0318 02:07:10.019239   29652 server.go:328] standalone mode, no API client
W0318 02:07:10.068650   29652 **server.go:236] No api server defined - no events will be sent to API server.**
I0318 02:07:10.068670   29652 **server.go:428] --cgroups-per-qos enabled, but --cgroup-root was not specified.  defaulting to /**
I0318 02:07:10.069130   29652 container_manager_linux.go:242] container manager verified user specified cgroup-root exists: /
I0318 02:07:10.069306   29652 container_manager_linux.go:247] Creating Container Manager object based on Node Config: {RuntimeCgroupsName: SystemCgroupsName: KubeletCgroupsName: ContainerRuntime:docker CgroupsPerQOS:true CgroupRoot:/ CgroupDriver:cgroupfs KubeletRootDir:/var/lib/kubelet ProtectKernelDefaults:false NodeAllocatableConfig:{KubeReservedCgroupName: SystemReservedCgroupName: EnforceNodeAllocatable:map[pods:{}] KubeReserved:map[] SystemReserved:map[] HardEvictionThresholds:[{Signal:nodefs.inodesFree Operator:LessThan Value:{Quantity:<nil> Percentage:0.05} GracePeriod:0s MinReclaim:<nil>} {Signal:imagefs.available Operator:LessThan Value:{Quantity:<nil> Percentage:0.15} GracePeriod:0s MinReclaim:<nil>} {Signal:memory.available Operator:LessThan Value:{Quantity:100Mi Percentage:0} GracePeriod:0s MinReclaim:<nil>} {Signal:nodefs.available Operator:LessThan Value:{Quantity:<nil> Percentage:0.1} GracePeriod:0s MinReclaim:<nil>}]} ExperimentalQOSReserved:map[] ExperimentalCPUManagerPolicy:none ExperimentalCPUManagerReconcilePeriod:10s}
I0318 02:07:10.069404   29652 container_manager_linux.go:266] Creating device plugin manager: false
W0318 02:07:10.072836   29652 kubelet_network.go:139] Hairpin mode set to "promiscuous-bridge" but kubenet is not enabled, falling back to "hairpin-veth"
I0318 02:07:10.072860   29652 kubelet.go:576] Hairpin mode set to "hairpin-veth"
I0318 02:07:10.075139   29652 client.go:80] Connecting to docker on unix:///var/run/docker.sock
I0318 02:07:10.075156   29652 client.go:109] Start docker client with request timeout=2m0s
I0318 02:07:10.080336   29652 docker_service.go:232] Docker cri networking managed by kubernetes.io/no-op
I0318 02:07:10.090943   29652 docker_service.go:237] Docker Info: &{ID:DUEI:P7Y3:JKGP:XJDI:UFXG:NAOX:K7ID:KHCF:PCGW:46QA:TQZB:WEXF Containers:18 ContainersRunning:17 ContainersPaused:0 ContainersStopped:1 Images:11 Driver:overlay2 DriverStatus:[[Backing Filesystem xfs] [Supports d_type true] [Native Overlay Diff true]] SystemStatus:[] Plugins:{Volume:[local] Network:[bridge host macvlan null overlay] Authorization:[] Log:[]} MemoryLimit:true SwapLimit:true KernelMemory:true CPUCfsPeriod:true CPUCfsQuota:true CPUShares:true CPUSet:true IPv4Forwarding:true BridgeNfIptables:true BridgeNfIP6tables:true Debug:false NFd:89 OomKillDisable:true NGoroutines:98 SystemTime:2018-03-18T02:07:10.083543475+01:00 LoggingDriver:journald CgroupDriver:systemd NEventsListener:0 KernelVersion:3.10.0-693.21.1.el7.x86_64 OperatingSystem:CentOS Linux 7 (Core) OSType:linux Architecture:x86_64 IndexServerAddress:https://index.docker.io/v1/ RegistryConfig:0xc42027b810 NCPU:2 MemTotal:2097364992 GenericResources:[] DockerRootDir:/var/lib/docker HTTPProxy: HTTPSProxy: NoProxy: Name:kubernetes.master Labels:[] ExperimentalBuild:false ServerVersion:1.13.1 ClusterStore: ClusterAdvertise: Runtimes:map[runc:{Path:docker-runc Args:[]} docker-runc:{Path:/usr/libexec/docker/docker-runc-current Args:[]}] DefaultRuntime:docker-runc Swarm:{NodeID: NodeAddr: LocalNodeState:inactive ControlAvailable:false Error: RemoteManagers:[] Nodes:0 Managers:0 Cluster:0xc4202a8f00} LiveRestoreEnabled:false Isolation: InitBinary:docker-init ContainerdCommit:{ID: Expected:aa8187dbd3b7ad67d8e5e3a15115d3eef43a7ed1} RuncCommit:{ID:N/A Expected:9df8b306d01f59d3a8029be411de015b7304dd8f} InitCommit:{ID:N/A Expected:949e6facb77383876aeff8a6944dde66b3089574} SecurityOptions:[name=seccomp,profile=/etc/docker/seccomp.json name=selinux]}
**error: failed to run Kubelet: failed to create kubelet: misconfiguration: kubelet cgroup driver: "cgroupfs" is different from docker cgroup driver: "systemd"**

क्यूब प्रक्रियाएं चल रही हैं

[root<strong i="6">@kubernetes</strong> ~]# ps aux | grep -i kube
root     10182  0.4  1.2  54512 25544 ?        Ssl  mars17   1:10 kube-scheduler --leader-elect=true --kubeconfig=/etc/kubernetes/scheduler.conf --address=127.0.0.1
root     10235  1.8 12.7 438004 261948 ?       Ssl  mars17   4:44 kube-apiserver --kubelet-client-certificate=/etc/kubernetes/pki/apiserver-kubelet-client.crt --admission-control=Initializers,NamespaceLifecycle,LimitRanger,ServiceAccount,DefaultStorageClass,DefaultTolerationSeconds,NodeRestriction,ResourceQuota --allow-privileged=true --requestheader-group-headers=X-Remote-Group --requestheader-extra-headers-prefix=X-Remote-Extra- --requestheader-allowed-names=front-proxy-client --service-account-key-file=/etc/kubernetes/pki/sa.pub --client-ca-file=/etc/kubernetes/pki/ca.crt --kubelet-client-key=/etc/kubernetes/pki/apiserver-kubelet-client.key --requestheader-client-ca-file=/etc/kubernetes/pki/front-proxy-ca.crt --proxy-client-key-file=/etc/kubernetes/pki/front-proxy-client.key --requestheader-username-headers=X-Remote-User --tls-private-key-file=/etc/kubernetes/pki/apiserver.key --insecure-port=0 --enable-bootstrap-token-auth=true --tls-cert-file=/etc/kubernetes/pki/apiserver.crt --secure-port=6443 --kubelet-preferred-address-types=InternalIP,ExternalIP,Hostname --advertise-address=192.168.1.70 --service-cluster-ip-range=10.96.0.0/12 --proxy-client-cert-file=/etc/kubernetes/pki/front-proxy-client.crt --authorization-mode=Node,RBAC --etcd-servers=http://127.0.0.1:2379
root     10421  0.1  1.0  52464 22052 ?        Ssl  mars17   0:20 /usr/local/bin/kube-proxy --config=/var/lib/kube-proxy/config.conf
root     12199  1.7  8.5 326552 174108 ?       Ssl  mars17   4:11 kube-controller-manager --address=127.0.0.1 --leader-elect=true --controllers=*,bootstrapsigner,tokencleaner --cluster-signing-key-file=/etc/kubernetes/pki/ca.key --cluster-signing-cert-file=/etc/kubernetes/pki/ca.crt --use-service-account-credentials=true --kubeconfig=/etc/kubernetes/controller-manager.conf --root-ca-file=/etc/kubernetes/pki/ca.crt --service-account-private-key-file=/etc/kubernetes/pki/sa.key
root     22928  0.0  1.0 279884 20752 ?        Sl   01:10   0:00 /home/weave/weaver --port=6783 --datapath=datapath --name=fe:9b:da:25:e2:b2 --host-root=/host --http-addr=127.0.0.1:6784 --status-addr=0.0.0.0:6782 --docker-api= --no-dns --db-prefix=/weavedb/weave-net --ipalloc-range=10.32.0.0/12 --nickname=kubernetes.master --ipalloc-init consensus=1 --conn-limit=30 --expect-npc 192.168.1.70
root     23308  0.0  0.7  38936 15340 ?        Ssl  01:10   0:01 /kube-dns --domain=cluster.local. --dns-port=10053 --config-dir=/kube-dns-config --v=2
65534    23443  0.0  0.8  37120 18028 ?        Ssl  01:10   0:03 /sidecar --v=2 --logtostderr --probe=kubedns,127.0.0.1:10053,kubernetes.default.svc.cluster.local,5,SRV --probe=dnsmasq,127.0.0.1:53,kubernetes.default.svc.cluster.local,5,SRV
root     29547  1.6  2.9 819012 61196 ?        Ssl  02:07   0:22 /usr/bin/kubelet --bootstrap-kubeconfig=/etc/kubernetes/bootstrap-kubelet.conf --kubeconfig=/etc/kubernetes/kubelet.conf --pod-manifest-path=/etc/kubernetes/manifests --allow-privileged=true --network-plugin=cni --cni-conf-dir=/etc/cni/net.d --cni-bin-dir=/opt/cni/bin --cluster-dns=10.96.0.10 --cluster-domain=cluster.local --authorization-mode=Webhook --client-ca-file=/etc/kubernetes/pki/ca.crt --cadvisor-port=0 --cgroup-driver=systemd --runtime-cgroups=/systemd/system.slice --kubelet-cgroups=/systemd/system.slice --rotate-certificates=true --cert-dir=/var/lib/kubelet/pki

v1.9.5 ने इस मुद्दे को तय किया, भयानक! @ bart0sh

@FrostyLeaf मैं अभी भी इसे 1.9.5 के साथ पुन: पेश करने में सक्षम हूं:

$ rpm -qa | grep kube
kubeadm-1.9.5-0.x86_64
क्यूबलेट-1.9.5-0.x86_64
kubernetes-cni-0.6.0-0.x86_64
kubectl-1.9.5-0.x86_64

$ docker info 2> / dev / null | grep -i cgroup
Cgroup चालक: systemd

$ ps aux | grep cgroup- ड्राइवर
रूट 29078 1.9 0.1 1222632 91824? Ssl 13:45 0:04 / usr / bin / kubelet --bootstrap-kubeconfig = / etc / kubernetes / bootstrap-kubelet.conf --kubeconfig = / etc / kubernetes / kubelet.conf --pod-appearance-path = / आदि / kubernetes / मैनिफ़ेस्ट्स --allow-विशेषाधिकार प्राप्त = true --network-plugin = cni --cni-conf-dir = / etc / cni / net.d --cni-bin-dir = / opt / cni / bin - -क्लस्टर-डीएनएस = 10.96.0.10 --क्लेस्टर-डोमेन = क्लस्टर.लोकल -ऑथोराइजेशन-मोड = वेबहूक - क्लिएक-सीए-फाइल = / etc / kubernetes / pki / ca.crt --cissvisor-port = 0 - -ग्रुप-ड्राइवर = सिस्टमड - क्रेटेट-सर्टिफिकेट = सच्चा -सर्ट-डायर = / var / lib / kubelet / pki

I0321 13: 50: २९.९०१००८ 30817 container_manager_linux.go: 247] बनाना कंटेनर प्रबंधक नोड कॉन्फ़िग के आधार पर वस्तु: {RuntimeCgroupsName: SystemCgroupsName: KubeletCgroupsName: होते erRuntime: डोकर Cgro upsPerQOS: सच CgroupRoot: / CGR oupDriver: cgroupfs KubeletRootDir: / var / lib / kubelet ProtectKerne lDefaults: झूठी NodeAllocatableConfig: {KubeReservedCgroupName: SystemReservedCgroupName: EnforceNodeAl locatable: नक्शा [फली: {}] Kub eReserved: नक्शा [] Syste mReserved: नक्शा [] HardEvictionThresholds: [{ सिग्नल: memory.available ऑपरेटर: lessthan मूल्य: { मात्रा: 100Mi P ercentage: 0 } Gr acePeriod: 0s MinReclaim:} { सिग्नल: नोडफैसेवेबल ऑपरेटर: लेसथन वैल्यू: {मात्रा:पी ercentage: 0.1 } जीआर aPPeriod: 0s MinReclaim:} { सिग्नल: nodefs.inodesFree ऑपरेटर: लेसथन वैल्यू: {क्वांटिटी:पी ercentage: 0.05 } जीआर acePeriod: 0s MinReclaim:} { सिग्नल: imagefs.available ऑपरेटर: लेसथन वैल्यू: {क्वांटिटी:P ercentage: 0.15 } Gr acePeriod: 0s MinReclaim:}]} ExperimentalQO SReserved: नक्शा [] ExperimentalCPUMana gerPolicy: कोई नहीं ExperimentalCPUManagerReconc ilePeriod: 10s }
त्रुटि: क्यूबलेट चलाने में विफल: क्यूबलेट बनाने में विफल: ग़लतफ़हमी: क्यूबलेट cgroup ड्राइवर: "cgroupfs" docker cgroup ड्राइवर

क्या आप अभी भी systemd cgroup ड्राइवर का उपयोग कर रहे हैं?

मैं इस मुद्दे को बंद करने का प्रस्ताव करता हूं

मैंने 2 कारण देखे हैं जो यहाँ अधिकांश रिपोर्टें देते हैं:

1. सिस्टमडॉप ड्रॉप-इन्स के संपादन के बाद 'सिस्टमक्टल डेमॉन-रीलोड' चलाना भूल जाते हैं। Eventhough -cgroup-driver = systemd को /etc/systemd/system/kubelet.service.d/10-kubeadm.conf में जोड़ा गया था, लेकिन इसका कोई प्रभाव नहीं पड़ा और डिफ़ॉल्ट (या पूर्व में - ccroup- ड्राइवर के साथ निर्दिष्ट) ड्राइवर था उपयोग किया गया।

2. क्यूबलेट लॉग देखने के लिए 'क्यूबलेट लॉग्स' कमांड चलाना। 'लॉग' सबकुंड क्यूबलेट में मौजूद नहीं है, इसलिए 'क्यूबलेट लॉग' और 'क्यूबलेट' एक ही कमांड हैं। डिफॉल्ट cgroup ड्राइवर 'cgroupfs' के साथ 'kubelet लॉग' kubelet चलाता है और kubelet kubelet और docker ड्राइवरों के बीच असंगतता के बारे में शिकायत करता है। लॉग्स देखने के लिए 'journalctl -ux kubelet' का उपयोग किया जाना चाहिए।

मैंने परीक्षण किया - क्यूग्रुप-ड्राइवर = क्यूबलेट 1.8.0, 1.9.0, 1.9.3 और 1.9.5 के साथ सिस्टमड विकल्प। कोई त्रुटि संदेश नहीं थे "cgroupfs लॉग में docker cgroup ड्राइवर: systemd" से अलग है।

@timothysc मेरी अंतिम टिप्पणी के संबंध में कोई आपत्ति नहीं है। क्या आप कृपया इस मुद्दे को बंद कर सकते हैं? यह बग नहीं है, क्योंकि यह क्यूबलेट और / या सिस्टमड के बारे में ज्ञान की कमी के कारण है।

2 चीजें जो मेरे दृष्टिकोण से करने के लिए समझ में आ सकती हैं:

• "कुबेदम इनिट" के लिए प्रीफ़्लाइट चेक लागू करें, यह जांचने के लिए कि क्या डॉकटर और क्यूबलेट cgroup ड्राइवर मेल खाते हैं।
• कमांड लाइन में अज्ञात पैरामीटर मिलने पर क्यूबलेट को विफल करें, उदाहरण के लिए "क्यूबलेट लॉग" त्रुटि संदेश "अपरिचित पैरामीटर: लॉग" के साथ विफल होना चाहिए

हम उन लोगों के लिए अलग मुद्दे बनाने पर विचार कर सकते हैं।

वैसे भी, यह मुद्दा बंद हो सकता है।

V1.9.5 के लिए चीजें मेरे लिए ठीक लगती हैं

क्यूबलेट और डॉकटर के बीच cgroup ड्राइवर संगति की जाँच के बारे में @ bart0sh से सहमत हैं।
हो सकता है कि `क्यूटेट लॉग्स” को जर्नैक्टल-क्यू क्यूबलेट.स्वाइस की ओर इशारा किया जाए

बस मेरे 2cts।

नमस्ते, मैं एक ही मुद्दा रहा हूँ।
सेंटोस 7
kubeadm संस्करण है: 1.9.6
docker संस्करण है: 1.13.1 API संस्करण: 1.26
जब मैं भागा: docker info | grep -i cgroup ,
मुझे यह मिल गया:
WARNING: You're not using the default seccomp profile Cgroup Driver: systemd

जब मैं cat /etc/systemd/system/kubelet.service.d/10-kubeadm.conf चलाता हूं,
मैं सेटिंग Environment="KUBELET_CGROUP_ARGS=--cgroup-driver=systemd" जगह देख सकता हूं।

मैंने systemctl डेमॉन-रीलोड * और * systemctl पुनरारंभ क्यूबलेट चलाया , लेकिन यह अभी भी दिखा

ग़लतफ़हमी: क्यूबलेट cgroup ड्राइवर: "cgroupfs" docker cgroup ड्राइवर से अलग है: "systemd"

एक और अजीब बात है: जब मैं sed -i "s/cgroup-driver=systemd/cgroup-driver=cgroupfs/g" /etc/systemd/system/kubelet.service.d/10-kubeadm.conf भागा
मैंने देखा - cgroup-drive को cgroupfs में बदल दिया जाता है।
लेकिन तब ठीक उसी त्रुटि संदेश को दिखाया गया था जब मैंने kubelet status फिर से भाग लिया था।

ग़लतफ़हमी: kubelet cgroup ड्राइवर: "cgroupfs" docker cgroup ड्राइवर से अलग है: "systemd"

मैं इस समस्या का पता नहीं लगा सकता।
मैं ऊपर वर्णित संस्करणों के साथ कोशिश करूंगा। क्या किसी को पता है कि कुबेरनेट का एक पुराना संस्करण कैसे स्थापित किया जाए? धन्यवाद।

@moqichenle यह अजीब है। यह काम करना चाहिए। क्या आप निम्न कमांड का आउटपुट दिखा सकते हैं?

systemctl daemon-reload
systemctl restart kubelet
docker info 2>/dev/null |grep -i group
ps aux |grep group-driver
journalctl -u kubelet.service | grep "is different from docker cgroup driver"

यहाँ मैं अपने सिस्टम पर देख रहा हूँ:

# systemctl daemon-reload
# systemctl restart kubelet
# docker info 2>/dev/null |grep -i group
Cgroup Driver: systemd
# ps aux |grep group-driver
root     25062  5.7  0.1 983760 78888 ?        Ssl  15:26   0:00 /usr/bin/kubelet --bootstrap-kubeconfig=/etc/kubernetes/bootstrap-kubelet.conf --kubeconfig=/etc/kubernetes/kubelet.conf --pod-manifest-path=/etc/kubernetes/manifests --allow-privileged=true --network-plugin=cni --cni-conf-dir=/etc/cni/net.d --cni-bin-dir=/opt/cni/bin --cluster-dns=NN.NN.NN.NN --cluster-domain=cluster.local --authorization-mode=Webhook --client-ca-file=/etc/kubernetes/pki/ca.crt --cadvisor-port=0 --cgroup-driver=systemd --rotate-certificates=true --cert-dir=/var/lib/kubelet/pki
root     25520  0.0  0.0   9288  1560 pts/0    R+   15:26   0:00 grep --color=auto group-driver
# journalctl -u kubelet.service | grep "is different from docker cgroup driver"
#

@ bart0sh हाय, मदद के लिए धन्यवाद।
यह वही है जो मेरे पास है (कुबेदम इनिट शुरू करने से पहले):
[root<strong i="8">@localhost</strong> bin]# docker info 2>/dev/null |grep -i group Cgroup Driver: systemd [root<strong i="9">@localhost</strong> bin]# ps aux |grep group-driver root 13472 0.0 0.1 12476 984 pts/0 R+ 13:23 0:00 grep --color=auto group-driver

कमांड kubeadm init टाइप करने के बाद,
यह वही है जो मेरे पास है:
[vagrant<strong i="14">@localhost</strong> ~]$ ps aux |grep group-driver root 13606 5.1 4.5 605240 22992 ? Ssl 13:25 0:03 /usr/bin/kubelet --kubeconfig=/etc/kubernetes/kubelet.conf --require-kubeconfig=true --pod-manifest-path=/etc/kubernetes/manifests --allow-privileged=true --network-plugin=cni --cni-conf-dir=/etc/cni/net.d --cni-bin-dir=/opt/cni/bin --cluster-dns=10.96.0.10 --cluster-domain=cluster.local --cgroup-driver=systemd --hostname-override=default vagrant 13924 0.0 0.1 12476 984 pts/1 R+ 13:26 0:00 grep --color=auto group-driver

लेकिन फिर क्यूबीडम init विफल हो जाएगा क्योंकि या तो क्यूबलेट स्वस्थ नहीं है या क्यूबलेट नहीं चल रहा है।

@moqichenle आप चला systemctl daemon-reload और systemctl restart kubelet चलाने से पहले kubeadm init ?

क्या आप journalctl -u kubelet.service बाद kubeadm init journalctl -u kubelet.service चला सकते हैं और यहाँ इसका उत्पादन दिखा सकते हैं?

हाँ, मैंने init से पहले दो कमांड चलाए थे।
अजीब बात है: मैंने journalctl -u kubelet.service | grep "is different from docker cgroup driver" चलने पर कोई आउटपुट नहीं देखा।
मैंने केवल उस त्रुटि को देखा जब मैंने kubelet status भाग लिया।

@moqichenle kubelet status आदेश मौजूद नहीं है। इसका मतलब है कि आप डिफ़ॉल्ट पैरामीटर (और डिफ़ॉल्ट cgroup ड्राइवर) के साथ क्यूबलेट चलाते हैं। इसलिए आपको त्रुटि मिल रही है। अधिक जानकारी के लिए kubelet logs के बारे में मेरे संदेश देखें।

क्या आप journalctl -u kubelet.service के आउटपुट में कुछ भी संदिग्ध (त्रुटियाँ, चेतावनी) देखते हैं?

ओह समझा। धन्यवाद। :)
हम्म .. नीचे दी गई त्रुटियाँ हैं:
Mar 26 13:39:40 localhost.localdomain kubelet[13606]: E0326 13:39:34.198202 13606 kuberuntime_image.go:140] ListImages failed: rpc error: code = DeadlineExceeded desc = context deadline exceeded Mar 26 13:39:45 localhost.localdomain kubelet[13606]: E0326 13:39:44.824222 13606 kubelet.go:1259] Container garbage collection failed: rpc error: code = DeadlineExceeded desc = context deadline exceeded Mar 26 13:39:47 localhost.localdomain kubelet[13606]: W0326 13:39:44.749819 13606 image_gc_manager.go:173] [imageGCManager] Failed to monitor images: rpc error: code = DeadlineExceeded desc = context deadline exceeded Mar 26 13:39:49 localhost.localdomain kubelet[13606]: E0326 13:39:49.486990 13606 kubelet.go:1281] Image garbage collection failed once. Stats initialization may not have completed yet: failed to get image stats: rpc error: code = DeadlineExceeded desc = context deadline exceeded Mar 26 13:42:03 localhost.localdomain kubelet[13606]: E0326 13:42:03.934312 13606 remote_runtime.go:169] ListPodSandbox with filter nil from runtime service failed: rpc error: code = DeadlineExceeded desc = context deadline exceeded Mar 26 13:42:03 localhost.localdomain kubelet[13606]: E0326 13:42:03.934359 13606 kuberuntime_sandbox.go:192] ListPodSandbox failed: rpc error: code = DeadlineExceeded desc = context deadline exceeded Mar 26 13:42:03 localhost.localdomain kubelet[13606]: E0326 13:42:03.934374 13606 generic.go:197] GenericPLEG: Unable to retrieve pods: rpc error: code = DeadlineExceeded desc = context deadline exceeded Mar 26 13:42:03 localhost.localdomain kubelet[13606]: E0326 13:42:03.936761 13606 remote_image.go:67] ListImages with filter nil from image service failed: rpc error: code = DeadlineExceeded desc = context deadline exceeded Mar 26 13:42:03 localhost.localdomain kubelet[13606]: E0326 13:42:03.936788 13606 kuberuntime_image.go:106] ListImages failed: rpc error: code = DeadlineExceeded desc = context deadline exceeded Mar 26 13:42:03 localhost.localdomain kubelet[13606]: W0326 13:42:03.936795 13606 image_gc_manager.go:184] [imageGCManager] Failed to update image list: rpc error: code = DeadlineExceeded desc = context deadline exceeded Mar 26 13:42:03 localhost.localdomain kubelet[13606]: E0326 13:42:03.937002 13606 remote_runtime.go:69] Version from runtime service failed: rpc error: code = DeadlineExceeded desc = context deadline exceeded Mar 26 13:42:03 localhost.localdomain kubelet[13606]: E0326 13:42:03.937020 13606 kuberuntime_manager.go:245] Get remote runtime version failed: rpc error: code = DeadlineExceeded desc = context deadline exceeded

जब मैंने kubeadm init चलाया, तो cgroup ड्राइव सेटिंग अलग हैं:
यह दिखाता है:
`[etcd] एक स्थानीय etcd उदाहरण के लिए" /etc/kubernetes/manifests/etcd.yaml "पर स्टेटिक पॉड प्रकट करें
[init] कंट्रोल प्लेनेट को बूटिक पॉड्स से डायरेक्टरी "/ etc / kubernetes / मैनिफ़ेस्ट" के रूप में बूट करने के लिए क्यूबलेट का इंतज़ार करना।
[init] अगर नियंत्रण विमान की छवियों को खींचना है तो इसमें एक मिनट या उससे अधिक समय लग सकता है।
[क्यूबलेट-जांच] ऐसा लगता है कि क्यूबलेट चल नहीं रहा है या स्वस्थ नहीं है।
जब cgroup ड्राइव सेटिंग्स समान होती हैं,
यह बस नियंत्रण कक्ष को खींचने के चरण पर लटका हुआ है और क्यूबलेट अस्वस्थ के साथ समाप्त होता है या नहीं चल रहा है।

@moqichenle यह मेरे लिए एक

आप अधिक जानकारी के लिए "संदर्भ की समय सीमा पार कर गए" खोज सकते हैं।

@ bart0sh हां, इसे अब इस मुद्दे से संबंधित मत

इस पीआर को 'क्यूबलेट लॉग', 'क्यूबलेट स्टेटस' और अन्य गैर-मौजूदा क्यूबलेट कमांड चलाने के कारण होने वाले भ्रम को कम करने में मदद करनी चाहिए: # 61833

यदि यह गलत कमांड लाइन के साथ चलाया जाता है, तो यह त्रुटि और बाहर निकलने के लिए क्यूबलेट बनाता है।

समीक्षा करें।

नमस्ते, मैं 1.10 पर इस मुद्दे को पुन: पेश कर सकता हूं, बस यह जांचने के लिए कि क्या यह बग है और v1.11 में तय किया जाएगा?

यह एक बग है और v1.11 में तय किया जाएगा

IMO यह एक बग के बजाय docker और kubelet बीच एक कॉन्फ़िगरेशन बेमेल है।

kubeadm init चलाने से पहले, cgroup ड्राइवर पर एक

@ dixudx मैं वेबसाइट https://kubernetes.io/docs/setup/independent/install-kubeadm/ से इंस्टॉलेशन गाइड द्वारा पीछा किए जाने वाले k8 को स्थापित करने का प्रयास कर रहा हूं, और इस मुद्दे पर कदम उठाए गए हैं, नीचे मेरे विवरण का विवरण दिया गया है ;

OS:

CentOS Linux release 7.4.1708 (Core)

<br i="12"/>
  Server Version:  1.13.1<br i="13"/>
 API version:     1.26 (minimum version 1.12)<br i="14"/>
 Package version: <unknown i="15"><br i="16"/>
 Go version:      go1.8.3<br i="17"/>
 Git commit:      774336d/1.13.1<br i="18"/>
 Built:           Wed Mar  7 17:06:16 2018<br i="19"/>
 OS/Arch:         linux/amd64<br i="20"/>
 Experimental:    false</unknown>

kubeadm.x86_64                     1.10.1-0<br i="24"/>
kubectl.x86_64                     1.10.1-0<br i="25"/>
kubelet.x86_64                     1.10.1-0<br i="26"/>
kubernetes-cni.x86_64              0.6.0-0                          

Docker और kubelet के बीच का समूह

docker info | grep -i cgroup<br i="30"/>
  WARNING: You're not using the default seccomp profile<br i="31"/>
Cgroup Driver: systemd

 cat /etc/systemd/system/kubelet.service.d/10-kubeadm.conf | grep -i cgroup<br i="35"/>
Environment="KUBELET_CGROUP_ARGS=--cgroup-driver=systemd"

यह सिस्टमग्रड के रूप में एक ही cgroup है, इसलिए मैन्युअल रूप से क्यूबलेट के cgroup को समायोजित करने की आवश्यकता नहीं है। और मैंने क्यूबलेट चलाना शुरू कर दिया लेकिन त्रुटि संदेश के कारण विफल रहा जैसा कि उल्लेख किया गया है

[root@K8S-Master /]# kubelet logs
I0424 10:41:29.240854   19245 feature_gate.go:226] feature gates: &{{} map[]}
W0424 10:41:29.247770   19245 cni.go:171] Unable to update cni config: No networks found in /etc/cni/net.d
W0424 10:41:29.253069   19245 hostport_manager.go:68] The binary conntrack is not installed, this can cause failures in network connection cleanup.
I0424 10:41:29.253111   19245 server.go:376] Version: v1.10.1
I0424 10:41:29.253175   19245 feature_gate.go:226] feature gates: &{{} map[]}
I0424 10:41:29.253290   19245 plugins.go:89] No cloud provider specified.
W0424 10:41:29.253327   19245 server.go:517] standalone mode, no API client
W0424 10:41:29.283851   19245 server.go:433] No api server defined - no events will be sent to API server.
I0424 10:41:29.283867   19245 server.go:613] --cgroups-per-qos enabled, but --cgroup-root was not specified.  defaulting to /
I0424 10:41:29.284091   19245 container_manager_linux.go:242] container manager verified user specified cgroup-root exists: /
I0424 10:41:29.284101   19245 container_manager_linux.go:247] Creating Container Manager object based on Node Config: {RuntimeCgroupsName: SystemCgroupsName: KubeletCgroupsName: ContainerRuntime:docker CgroupsPerQOS:true CgroupRoot:/ CgroupDriver:cgroupfs KubeletRootDir:/var/lib/kubelet ProtectKernelDefaults:false NodeAllocatableConfig:{KubeReservedCgroupName: SystemReservedCgroupName: EnforceNodeAllocatable:map[pods:{}] KubeReserved:map[] SystemReserved:map[] HardEvictionThresholds:[{Signal:memory.available Operator:LessThan Value:{Quantity:100Mi Percentage:0} GracePeriod:0s MinReclaim:<nil i="39">} {Signal:nodefs.available Operator:LessThan Value:{Quantity:<nil i="40"> Percentage:0.1} GracePeriod:0s MinReclaim:<nil i="41">} {Signal:nodefs.inodesFree Operator:LessThan Value:{Quantity:<nil i="42"> Percentage:0.05} GracePeriod:0s MinReclaim:<nil i="43">} {Signal:imagefs.available Operator:LessThan Value:{Quantity:<nil i="44"> Percentage:0.15} GracePeriod:0s MinReclaim:<nil i="45">}]} ExperimentalQOSReserved:map[] ExperimentalCPUManagerPolicy:none ExperimentalCPUManagerReconcilePeriod:10s ExperimentalPodPidsLimit:-1 EnforceCPULimits:true}
I0424 10:41:29.284195   19245 container_manager_linux.go:266] Creating device plugin manager: true
I0424 10:41:29.284242   19245 state_mem.go:36] [cpumanager] initializing new in-memory state store
I0424 10:41:29.284292   19245 state_mem.go:87] [cpumanager] updated default cpuset: ""
I0424 10:41:29.284326   19245 state_mem.go:95] [cpumanager] updated cpuset assignments: "map[]"
W0424 10:41:29.286890   19245 kubelet_network.go:139] Hairpin mode set to "promiscuous-bridge" but kubenet is not enabled, falling back to "hairpin-veth"
I0424 10:41:29.286912   19245 kubelet.go:556] Hairpin mode set to "hairpin-veth"
I0424 10:41:29.288233   19245 client.go:75] Connecting to docker on unix:///var/run/docker.sock
I0424 10:41:29.288268   19245 client.go:104] Start docker client with request timeout=2m0s
W0424 10:41:29.289762   19245 cni.go:171] Unable to update cni config: No networks found in /etc/cni/net.d
W0424 10:41:29.292669   19245 hostport_manager.go:68] The binary conntrack is not installed, this can cause failures in network connection cleanup.
I0424 10:41:29.293904   19245 docker_service.go:244] Docker cri networking managed by kubernetes.io/no-op
I0424 10:41:29.302849   19245 docker_service.go:249] Docker Info: &amp;{ID:UJ6K:K2AW:HKQY:5MRL:KROX:FTJV:3TKY:GHGI:L7GV:UQFP:AU2Q:AKC6 Containers:0 ContainersRunning:0 ContainersPaused:0 ContainersStopped:0 Images:0 Driver:overlay2 DriverStatus:[[Backing Filesystem xfs] [Supports d_type true] [Native Overlay Diff true]] SystemStatus:[] Plugins:{Volume:[local] Network:[bridge host macvlan null overlay] Authorization:[] Log:[]} MemoryLimit:true SwapLimit:true KernelMemory:true CPUCfsPeriod:true CPUCfsQuota:true CPUShares:true CPUSet:true IPv4Forwarding:true BridgeNfIptables:true BridgeNfIP6tables:true Debug:false NFd:16 OomKillDisable:true NGoroutines:26 SystemTime:2018-04-24T10:41:29.295491971+08:00 LoggingDriver:journald CgroupDriver:systemd NEventsListener:0 KernelVersion:3.10.0-693.5.2.el7.x86_64 OperatingSystem:CentOS Linux 7 (Core) OSType:linux Architecture:x86_64 IndexServerAddress:https://index.docker.io/v1/ RegistryConfig:0xc4203dcbd0 NCPU:4 MemTotal:8371650560 GenericResources:[] DockerRootDir:/var/lib/docker HTTPProxy: HTTPSProxy: NoProxy: Name:K8S-Master Labels:[] ExperimentalBuild:false ServerVersion:1.13.1 ClusterStore: ClusterAdvertise: Runtimes:map[docker-runc:{Path:/usr/libexec/docker/docker-runc-current Args:[]} runc:{Path:docker-runc Args:[]}] DefaultRuntime:docker-runc Swarm:{NodeID: NodeAddr: LocalNodeState:inactive ControlAvailable:false Error: RemoteManagers:[] Nodes:0 Managers:0 Cluster:0xc4201317c0} LiveRestoreEnabled:false Isolation: InitBinary:docker-init ContainerdCommit:{ID: Expected:aa8187dbd3b7ad67d8e5e3a15115d3eef43a7ed1} RuncCommit:{ID:N/A Expected:9df8b306d01f59d3a8029be411de015b7304dd8f} InitCommit:{ID:N/A Expected:949e6facb77383876aeff8a6944dde66b3089574} SecurityOptions:[name=seccomp,profile=/etc/docker/seccomp.json name=selinux]}
F0424 10:41:29.302989   19245 server.go:233] failed to run Kubelet: failed to create kubelet: misconfiguration: kubelet cgroup driver: <font i="46">"cgroupfs"</font> is different from docker cgroup driver: "systemd"</nil></nil></nil></nil></nil></nil></nil>

कुंजी जानकारी जिसे मैं लॉग से देखता हूं वह CgroupDriver अभी भी cgroupfs है, मुझे लगता है कि यही कारण है कि cgroup बेमेल समस्या है, लेकिन इस डिफ़ॉल्ट मान को समायोजित करने का कोई विचार नहीं है? आप इसके लिए स्पष्ट करने में मदद कर सकते हैं, धन्यवाद!

@wshandao कृपया kubelet logs का उपयोग करना बंद करें, जो लॉग देखने का सही तरीका नहीं है।

लॉग देखने का सही तरीका journalctl -f -u kubelet ।

धन्यवाद @dixudx , मेरी गलती और यह वास्तव में मेरी स्थापना को जारी रखने के लिए समस्या नहीं है

मैं इस एक को बंद करने के लिए अनुरोध करता हूं।
प्रलेखन पहले से ही कवर करता है कि उपयोगकर्ताओं को एक मिलान cgroups ड्राइवर सत्यापित करने की आवश्यकता है।

यह kubeadm से स्वतंत्र है और एक kublet बनाम docker समस्या से अधिक है।

इसी तरह की रिपोर्ट:
https://github.com/kubernetes/kubernetes/issues/59794
https://github.com/openshift/origin/issues/18776
https://github.com/kubernetes/kubernetes/issues/43805

@timstclair

FWIW यह RPMs में डिफ़ॉल्ट है, लेकिन .debs में नहीं। क्या मुख्य समर्थन में कोई मौजूदा वितरण है जो अब सिस्टमड के लिए डिफ़ॉल्ट नहीं है?

मैंने 3 अलग-अलग नंगे-हड्डी उबंटू 16.04.2, 16.04.0, 17.04 पर यह परीक्षण किया है और ऐसा प्रतीत होता है कि डॉक ड्राइवर cgroupfs , जो कि केलेट के डिफ़ॉल्ट तर्क मूल्य से मेल खाता है।

मूल पोस्ट में उपयोगकर्ता रिपोर्ट के विपरीत जहां डॉकटर systemd 16.04.3 , इसलिए यह docker संस्करणों के बीच परिवर्तित होने वाला docker कॉन्फिगर हो सकता है। बताना मुश्किल है।

मेरे परीक्षण को देखते हुए, मुझे अभी तक Environment="KUBELET_CGROUP_ARGS=--cgroup-driver=systemd" डीबीएस में जोड़ने की आवश्यकता नहीं है क्योंकि यह इन Ubuntu संस्करणों के लिए कम से कम गलत होगा।

हमेशा एक दोस्ताना UX के लिए क्या करें

@ neolit123 ने सहमति व्यक्त की।

हालाँकि मुझे लगता है कि हमें एक समस्या निवारण दस्तावेज़ JIC खोलना चाहिए।
इसे बंद करना और मैं अपने डॉक्स शुरू करूंगा।

मुझे उबंटू 16.04, क्यूब संस्करण v1.10.4 पर यही समस्या थी। डॉकर संस्करण 1.13.1
Docker native.cgroupdriver = systemd के साथ शुरू हो रहा था। यह विन्यास मेरे द्वारा /etc/docker/daemon.json में सेट किया गया था

{
"exec-opts": ["native.cgroupdriver=systemd"]
}

मैंने /etc/systemd/system/kubelet.service.d/10-kubeadx.ff में कॉन्फिगर को संशोधित किया है
एक नई पंक्ति जोड़ी: Environment="KUBELET_CGROUP_ARGS=--cgroup-driver=systemd"
और ExecStart में पैरामीटर $KUBELET_CGROUP_ARGS जोड़ें

फिर एक systemctl डेमॉन-रीलोड और सर्विस क्यूबलेट पुनः आरंभ किया।
क्यूबलेट सही ढंग से शुरू किया।

@dragosrosculete

हम अपने समस्या निवारण डॉक्स में सुधार कर रहे हैं, लेकिन 1.11 में भी और बाद में docker के लिए cgroup ड्राइवर को स्वचालित रूप से kubbm द्वारा मिलान किया जाना चाहिए।

मुझे लगता है कि यह एक बग है। मैं docker संस्करण और kubeadm फ़ाइल की जाँच की, निश्चित रूप से kubeadm स्क्रिप्ट उस जाँच को भी करता है। हालांकि मुझे मिसमैच मैसज मिलता है। यदि कोई कभी ध्यान से पढ़े तो आप देख सकते हैं कि उपरोक्त में से कुछ में समस्या है कि पैरामीटर को सही ढंग से सेट करें।

यह अभी भी हो रहा है, कुछ भी काम नहीं किया!