kubeadm部署Kubernetes集群(规避各坑)

timg.jpg

如果kubernetes的版本为1.8-1.11,docker版本必须为1.11.2-1.13.1和docker-ce版本为17.03.x
如果kubernetes的版本从1.12开始,docker版本必须为17.06/17.09/18.06

1 环境准备

  1. 三台centos服务器
    master 192.168.32.130
    node1 192.168.32.131
    node2 192.168.32.132
    node3 192.168.32.133

  2. 关闭selinux和firewalld

 setenforce=0
 修改  /etc/selinux/config 中的  SELINUX=disabled

 systemctl stop firewalld
 systemctl disable firewalld
  1. 这里使用yum安装,需要配置好yum源(这里使用aliyun)
    分别在三台服务器安装相关源
sudo yum-config-manager --add-repo https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo

1添加docker-ce的yum源


cat <<EOF > /etc/yum.repos.d/kubernetes.repo
[kubernetes]
name=Kubernetes
baseurl=https://mirrors.aliyun.com/kubernetes/yum/repos/kubernetes-el7-x86_64/
enabled=1
gpgcheck=1
repo_gpgcheck=1
gpgkey=https://mirrors.aliyun.com/kubernetes/yum/doc/yum-key.gpg https://mirrors.aliyun.com/kubernetes/yum/doc/rpm-package-key.gpg
EOF

按照官方文档添加k8s的yum源
  1. 打开桥接
echo 1 > /proc/sys/net/bridge/bridge-nf-call-iptables
echo 1 > /proc/sys/net/bridge/bridge-nf-call-ip6tables

2 环境部署

  1. 安装相关程序执行
  • master节点
yum install -y docker-ce kubelet kubeadm kubectl
  • node节点(node节点不操作可以不安装kubectl)
yum install -y docker-ce kubelet kubeadm 
  1. 启动docker并设置开机启动(所有节点)
systemctl start docker
systemctl enable docker
  1. 设置kubelet开机启动
systemctl enable kubelet
  1. 初始化主节点
kubeadm init --kubernetes-version=v1.11 --pod-network-cidr=10.244.0.0/16 --service-cidr=10.96.0.0/12 --ignore-preflight-errors=swap

这里设置了初始化的版本,pod的网段,service的网段,可以依据kubeadm init --help自行修改。同时忽略的swap的报错,在初始化的过程中报错可能会中断初始化,可以根据实际情况依据在--ignore-preflight-errors=swap后添加忽略信息忽略。

初始化成功后会生成提示信息


按成功提示执行命令(最后一条是当前root用户可不执行)

mkdir -p $HOME/.kube
sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
sudo chown $(id -u):$(id -g) $HOME/.kube/config

保存kubeadm jion信息用于node节点的加入

可用 kubectl get cs查看健康情况
可用kubectl get nodes查看节点情况

  1. 主节点安装配置flannel
    Flannel是CoreOS团队针对Kubernetes设计的一个Overlay网络规划服务,简单来说,它的功能是让集群中的不同节点主机创建的Docker容器都具有全集群唯一的虚拟IP地址。项目托管于github上地址https://github.com/coreos/flannel
    Kubernetes v1.7以上可直接使用yml安装
kubectl apply -f https://raw.githubusercontent.com/coreos/flannel/master/Documentation/kube-flannel.yml

安装完成后可使用kubectl get pods -n kube-system查看各系统名称空间组件READY和STATUS情况

  1. 加入node节点
    使用master节点初始化时候产生的kubeadm join命令进行node节点的加入,可以使用--ignore-preflight-errors=swap添加忽略

安装完成后可使用kubectl get nodes查看各节点加入情况
可使用kubectl get pods -n kube-system -o wide查看各节点系统名称空间组件READY和STATUS情况

3. 坑点

  1. 关于swap的忽略
    如果初始化是在 --ignore-preflight-errors=swap上设置了依然报错则需要
vim /etc/sysconfig/kubelet
添加KUBELET_EXTRA_ARGS="--fail-swap-on=false"
  1. 关于镜像无法加载
    在初始化过程中master节点会下载kube-proxy,kube-controller-manager,kube-apiserver,kube-scheduler,coredns,etcd,pause等一些镜像,现阶段网络可能访问不到,可在报错信息中或者/var/log/message中查看镜像,将文件中镜像地址进行内容替换即可:
    k8s.gcr.io替换为
    registry.cn-hangzhou.aliyuncs.com/google_containers
    registry.aliyuncs.com/google_containers
    mirrorgooglecontainers

以上三选一
使用docker pull将下载下来
然后再使用 docekr tag将镜像打上需要的k8s.gcr.io标签的镜像
node节点需要的镜像可以通过docker save将master节点的镜像保存拷贝到node节点之后通过docker load -i加载

或者
kubeadm init时加上--image-repository=registry.aliyuncs.com/google_containers
也就是上面的三个镜像仓库地址中的一个都行

  1. K8s集群初始化成功后,kubectl get nodes 查看节点信息时报错
    报错信息:The connection to the server localhost:8080 was refused - did you specify the right host or port?

解决方法:

执行以下命令

mkdir -p $HOME/.kube
sudo cp -i /etc/kubernetes/admin.conf $HOME/.kube/config
sudo chown $(id -u):$(id -g) $HOME/.kube/config

再次查看节点信息即正常

4.解决GitHub的raw.githubusercontent.com无法连接问题

修改hosts
sudo vi /etc/hosts
添加以下内容保存即可 (IP地址查询后相应修改,可以ping不同IP的延时 选择最佳IP地址)

# GitHub Start
52.74.223.119 github.com
192.30.253.119 gist.github.com
54.169.195.247 api.github.com
185.199.111.153 assets-cdn.github.com
151.101.76.133 raw.githubusercontent.com
151.101.108.133 user-images.githubusercontent.com
151.101.76.133 gist.githubusercontent.com
151.101.76.133 cloud.githubusercontent.com
151.101.76.133 camo.githubusercontent.com
151.101.76.133 avatars0.githubusercontent.com
151.101.76.133 avatars1.githubusercontent.com
151.101.76.133 avatars2.githubusercontent.com
151.101.76.133 avatars3.githubusercontent.com
151.101.76.133 avatars4.githubusercontent.com
151.101.76.133 avatars5.githubusercontent.com
151.101.76.133 avatars6.githubusercontent.com
151.101.76.133 avatars7.githubusercontent.com
151.101.76.133 avatars8.githubusercontent.com
# GitHub End
  1. 没有记token如何加入K8S集群

a. 生成一条永久有效的token kubeadm token create --ttl 0
查看token kubeadm token list
b. 获取ca证书sha256编码hash值
openssl x509 -pubkey -in /etc/kubernetes/pki/ca.crt | openssl rsa -pubin -outform der 2>/dev/null | openssl dgst -sha256 -hex | sed 's/^.* //'
c. node节点加入
kubeadm join 192.168.28.128:6443 --token <token> --discovery-token-ca-cert-hash sha256:<sha256>

  1. 其它问题
    其它问题如果看不出报错的都可以在/var/log/message查看问题
    一些不可达的问题和解析问题基本都是跟/etc/hosts解析相关,需要添加解析信息
    同时跟一些忽略相关的可以通过在--ignore-preflight-errors=上添加忽略信息
    如果显示初始化完成可以使用kubeadm reset重置初始化信息
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 199,711评论 5 468
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 83,932评论 2 376
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 146,770评论 0 330
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 53,799评论 1 271
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 62,697评论 5 359
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,069评论 1 276
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,535评论 3 390
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,200评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,353评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,290评论 2 317
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,331评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,020评论 3 315
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,610评论 3 303
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,694评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,927评论 1 255
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,330评论 2 346
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 41,904评论 2 341

推荐阅读更多精彩内容