Kubeadm: DNSルックアップを解決しないCoreDNSを使用した新規デプロイ

何らかの理由で、クラスターにkube-dnsサービスはありません。
最初にそれを手作業で再作成して問題を修正する必要があります。 次に、それがどのように消えたかを理解することを試みることができます。

このyamlを使用して、 kubectl apply -f ..でサービスを作成できます。

apiVersion: v1
kind: Service
metadata:
  name: kube-dns
  namespace: kube-system
  annotations:
    prometheus.io/port: "9153"
    prometheus.io/scrape: "true"
  labels:
    k8s-app: kube-dns
    kubernetes.io/cluster-service: "true"
    kubernetes.io/name: "CoreDNS"
spec:
  selector:
    k8s-app: kube-dns
  clusterIP: 10.96.0.10
  ports:
  - name: dns
    port: 53
    protocol: UDP
  - name: dns-tcp
    port: 53
    protocol: TCP

注：CoreDNSサービス名の名前が「kube-dns」のままであることは直感に反しますが、corednsポッド（セレクターラベル「kube-dns」を使用）は選択されます。

OPと同じ問題が発生しており、説明とユースケースはほぼ同じです。Centos7.5ではkubeadmで、1つのマスターがワーカーノードとしても動作しています。 私は同じ問題を抱えており、サービスは存在します：

λ k get all --all-namespaces
NAMESPACE        NAME                                                READY     STATUS             RESTARTS   AGE
default          pod/busybox                                         0/1       Error              0          28m
default          pod/gitlab-gitlab-fd8b9fb85-26mkz                   0/1       CrashLoopBackOff   6          50m
default          pod/gitlab-minio-7fb7886d94-2zsff                   1/1       Running            0          50m
default          pod/gitlab-postgresql-8684bb6656-ltxjm              1/1       Running            0          50m
default          pod/gitlab-redis-785447c586-84x4c                   1/1       Running            0          50m
default          pod/ldap-79bb8c66b9-68v9f                           1/1       Running            0          2d
default          pod/local-volume-provisioner-dkxm9                  1/1       Running            0          2d
kube-system      pod/coredns-78fcdf6894-2t8tv                        1/1       Running            0          2d
kube-system      pod/coredns-78fcdf6894-wvq26                        1/1       Running            0          2d
kube-system      pod/etcd-server1.stitches.tech                      1/1       Running            0          2d
kube-system      pod/kube-apiserver-server1.domain            1/1       Running            0          2d
kube-system      pod/kube-controller-manager-server1.domain   1/1       Running            0          2d
kube-system      pod/kube-flannel-ds-m9cz5                           1/1       Running            0          2d
kube-system      pod/kube-proxy-qhr8p                                1/1       Running            0          2d
kube-system      pod/kube-scheduler-server1.domain            1/1       Running            0          2d
kube-system      pod/kubernetes-dashboard-6948bdb78-qnp4b            1/1       Running            0          2d
kube-system      pod/tiller-deploy-56c4cf647b-64w8v                  1/1       Running            0          2d
metallb-system   pod/controller-9c57dbd4-fqhzb                       1/1       Running            0          2d
metallb-system   pod/speaker-tngv7                                   1/1       Running            0          2d

NAMESPACE     NAME                           TYPE           CLUSTER-IP      EXTERNAL-IP     PORT(S)                                   AGE
default       service/gitlab-gitlab          LoadBalancer   10.102.204.34   192.168.1.201   22:32208/TCP,80:32194/TCP,443:31370/TCP   50m
default       service/gitlab-minio           ClusterIP      None            <none>          9000/TCP                                  50m
default       service/gitlab-postgresql      ClusterIP      10.108.66.88    <none>          5432/TCP                                  50m
default       service/gitlab-redis           ClusterIP      10.97.59.57     <none>          6379/TCP                                  50m
default       service/kubernetes             ClusterIP      10.96.0.1       <none>          443/TCP                                   2d
default       service/ldap-service           LoadBalancer   10.101.250.10   192.168.1.200   389:32231/TCP                             2d
kube-system   service/kube-dns               ClusterIP      10.96.0.10      <none>          53/UDP,53/TCP                             2d
kube-system   service/kubernetes-dashboard   NodePort       10.104.132.52   <none>          443:30924/TCP                             2d
kube-system   service/tiller-deploy          ClusterIP      10.96.67.163    <none>          44134/TCP                                 2d

NAMESPACE        NAME                                      DESIRED   CURRENT   READY     UP-TO-DATE   AVAILABLE   NODE SELECTOR                   AGE
default          daemonset.apps/local-volume-provisioner   1         1         1         1            1           <none>                          2d
kube-system      daemonset.apps/kube-flannel-ds            1         1         1         1            1           beta.kubernetes.io/arch=amd64   2d
kube-system      daemonset.apps/kube-proxy                 1         1         1         1            1           beta.kubernetes.io/arch=amd64   2d
metallb-system   daemonset.apps/speaker                    1         1         1         1            1           <none>                          2d

NAMESPACE        NAME                                   DESIRED   CURRENT   UP-TO-DATE   AVAILABLE   AGE
default          deployment.apps/gitlab-gitlab          1         1         1            0           50m
default          deployment.apps/gitlab-minio           1         1         1            1           50m
default          deployment.apps/gitlab-postgresql      1         1         1            1           50m
default          deployment.apps/gitlab-redis           1         1         1            1           50m
default          deployment.apps/ldap                   1         1         1            1           2d
kube-system      deployment.apps/coredns                2         2         2            2           2d
kube-system      deployment.apps/kubernetes-dashboard   1         1         1            1           2d
kube-system      deployment.apps/tiller-deploy          1         1         1            1           2d
metallb-system   deployment.apps/controller             1         1         1            1           2d

NAMESPACE        NAME                                             DESIRED   CURRENT   READY     AGE
default          replicaset.apps/gitlab-gitlab-fd8b9fb85          1         1         0         50m
default          replicaset.apps/gitlab-minio-7fb7886d94          1         1         1         50m
default          replicaset.apps/gitlab-postgresql-8684bb6656     1         1         1         50m
default          replicaset.apps/gitlab-redis-785447c586          1         1         1         50m
default          replicaset.apps/ldap-79bb8c66b9                  1         1         1         2d
kube-system      replicaset.apps/coredns-78fcdf6894               2         2         2         2d
kube-system      replicaset.apps/kubernetes-dashboard-6948bdb78   1         1         1         2d
kube-system      replicaset.apps/tiller-deploy-56c4cf647b         1         1         1         2d
kube-system      replicaset.apps/tiller-deploy-64c9d747bd         0         0         0         2d
metallb-system   replicaset.apps/controller-9c57dbd4              1         1         1         2d

CoreDNSポッドからは、外の世界を検索できないようです。これは奇妙に思えます。

root on server1 at 11:45:48 AM in /internal/gitlab
λ k exec -it coredns-78fcdf6894-2t8tv /bin/sh -n kube-system
/ # cat /etc/resolv.conf
nameserver 192.168.1.254
nameserver 2600:1700:c540:64c0::1
search attlocal.net domain
/ # host gitlab
;; connection timed out; no servers could be reached
/ # host google.com
;; connection timed out; no servers could be reached

私にとって、これはCoreDNSポッドがアップストリームネームサーバー（ホストネットワークのIPである192.168.1.254）を認識できないことを意味します。 私は正しい方向に進んでいますか？

しかし、さらに奇妙なことに、そのマスターノードで実行されているポッドはそのIPアドレスに問題なく到達できます。

λ kubectl run -it --rm --restart=Never --image=infoblox/dnstools:latest dnstools
If you don't see a command prompt, try pressing enter.
dnstools# ping 192.168.1.254
PING 192.168.1.254 (192.168.1.254): 56 data bytes
64 bytes from 192.168.1.254: seq=0 ttl=63 time=1.102 ms

dig試してみませんか？

dig google.com @192.168.1.254

また、通常、有効なipv6構成を持つシステムは、最初にそのipv6リゾルバーで解決を試みます。 それが失敗した場合、これらのシステムはそれを失敗と呼びます。 それが機能する場合は、最初にdigコマンドを確認してください。システムがデュアルスタックipv4ipv6で構成されているかどうかを確認します。

今日、この問題の診断に多くの時間を費やしてくれた@mauilionに改めて感謝します。

私の解決策は（今のところかなりひどいですが）、ホストOSでfirewalldサービスを無効にすること

sudo systemctl stop firewalld
sudo systemctl disable firewalld

そのコマンドが実際に何をしているのかを覚えておいてください。 ご自身の責任で行ってください。

iptablesを使用するように構成されたkube-proxyを使用してkubeadmを介してCentOS7VMにデプロイされたkubernetes1.11.2とflannel0.10.0で同じ問題が発生しました。 私が気付いたのは、最初の展開後、ポッド間またはポッド間通信がなかったことです。 iptablesのFORWARDチェーンを見ると、kube-proxyは、最初のルールとしてKUBE-FORWARDチェーンを設定します。これは、検査時に、上記のすべてのトラフィックを処理する必要があります。 Flannelは、CentOS 7FORWARDチェーンのデフォルトであるDROPルールとREJECTルールの後に2つのルールを追加しました。 REJECTルールを削除すると、Flannelによって追加されたルールがトラフィックを処理し、ポッドが他のポッドやサービスIPと通信できることに気付きました。

kube-proxyはKUBE-FORWARDの変更を監視し、変更を防ぐため、NEWのctstateを追加したKUBE-FORWARDルールの後に2つのルールを追加しました。 これらのルールを追加すると、内部トラフィックは期待どおりに処理されます。

/var/lib/kubelet/config.yamlのclusterDNS変数を確認してください。 私たちの構成では、これは（誤って） 10.96.0.10に設定されていましたが、 10.244.240.10である必要がありました（これがクラスターをブートストラップしたものです）。 これを変更してkubeletを再起動すると、問題が修正されました。 ただし、マイレージは異なる場合があります。

@ pkeuter 、10.244.0.0 / 16は、フランネルのデフォルトの_pod_cidrです。 その場合、 10.244.240.10はポッドIPになります。これは、cluster-dns ip設定として使用しないでください（変更される可能性があり、負荷分散は行われません）。

そうではない：

クラスターを--pod-network-cidr=10.244.0.0/16 --service-cidr=10.244.240.0/20でブートストラップしましたが、今のところいくつかの重複があり、とにかく変更する必要があります:-)それで、@ chrisohaverに感謝します！

/var/lib/kubelet/config.yamlのclusterDNS変数を確認してください。 私たちの構成では、これは（誤って） 10.96.0.10に設定されていましたが、 10.244.240.10である必要がありました（これがクラスターをブートストラップしたものです）。 これを変更してkubeletを再起動すると、問題が修正されました。 ただし、マイレージは異なる場合があります。

これに感謝します-それは私の内部DNS要求が解決されなかった理由を追跡するのに役立ちました。

参考までに、-service-cidr = 192.168.0.0 / 16でkubeadmを初期化し、kube-dnsサービスが外部IPとしてそれを持っているため、clusterDNS値を192.168.0.10に設定する必要がありました。

また、kubeletを再起動するだけでは不十分でした。ポッドを再起動する必要があったため、/ etc /resolv.confが更新されました。 リクエストが行われたものは、期待どおりに解決されています。

coreDNSには、その後解決された多くの紛らわしい問題がありました。 オーバーロードされた一連の問題を考慮して、これを閉じます。

1.12+に特定の再現がある場合は、お気軽に開いてください。できるだけ早く対応します。

/var/lib/kubelet/config.yamlのclusterDNS変数を確認してください。 私たちの構成では、これは（誤って） 10.96.0.10に設定されていましたが、 10.244.240.10である必要がありました（これがクラスターをブートストラップしたものです）。 これを変更してkubeletを再起動すると、問題が修正されました。 ただし、マイレージは異なる場合があります。

素晴らしいです、そして私はどのclusterDNSアドレスを設定すべきかcalicoを使用しますか？

私は同じことをしましたが、同じエラーに直面しました私のcorednsポッドはエラー状態を与え始めません

私は私のClusterDNSが、それでも無影響@justlooksを変更しました

+1 CentOS7とkubeadm1.11で同じ問題に直面

@timothysc

iptables -p FORWARD ACCEPT追加すると、問題が修正されました

+1 CentOS7とkubeadm1.12で同じ問題に直面

問題の解決策が見つかりました。
CPU制限に達していたため、コアDNSデーモンコントローラーのリソース制限を削除しました。 それを再起動させていました。

フランネルの問題かもしれませんが、私の場合、vagrantにはmutilネットワークインターフェイスがあるため、フランネルをデプロイするときにインターフェイスを指定する必要があります： - --iface=eth1 、そうでない場合、同じDNS問題が発生します...

https://github.com/kubernetes/kubernetes/issues/39701

vim https://raw.githubusercontent.com/coreos/flannel/master/Documentation/kube-flannel.ymlは次のように変更されました：

......
containers:
      - name: kube-flannel
        image: quay.io/coreos/flannel:v0.11.0-amd64
        command:
        - /opt/bin/flanneld
        args:
        - --ip-masq
        - --kube-subnet-mgr
        - --iface=eth1
......

@pkeuterに感謝し