在上一篇文章部署Jenkins的时候,采用NSF来存储Jenkins的job和maven的依赖,其实主要是用到了k8s中提供的pv,并在pod中通过pvc来申请持久化资源(pv)。在整个操作的过程中,其是我们事先创建了pv,再创建pvc来申请资源,然而在有些场景下希望能动态的创建pv,在k8s中提供的StorageClass就可以满足整个需要。
1. 组件说明
- PersistentVolume (PV) :一个被管理员事先分配好的或者使用StorageClass进行动态分配的集群中的存储。
- 类别
- 静态:由管理员事先创建好
- 动态:如果没有pv匹配用户申请的pvc时,将通过StorageClass进行动态创建
- 说明
- 可以通过storageclassname来指定StorageClass
- 特定类的PV只能绑定到请求该类的pvc。没有storageClassName的PV,只能绑定到请求没有特定类的pvc(没有指定storageclass只能绑定到没有storageclassname的pv上)。
- 类别
- PersistentVolumeClaim (PVC):用于对存储的请求,即需要多少的存储空间。和pv之间时一对一的关系
- 通过指定storageClassName属性来选择需要绑定到的pv
- 没有指定storageClassname属性的指定绑定没有class的pv(没有annotation或class为"");可以通过DefaultStorageClass进行处理,设置一个默认的storageclass(并且该类型的pv只能又一个),则没有设置storageclass的都将被绑定到该对象中。
- 通过在创建storageclass对象是设置annotation的storageclass.kubernetes.io/is-default-class属性为true进行创建.
- 没有指定storageclassname属性的pvc和其值为""是一样的。
- StorageClass:提供给管理员一种描述storage的classes的方式。 不同的类可能映射到服务质量级别,或映射到备份策略,或映射到集群管理员确定的任意策略。
2. 准备
-
在上一节部署的NSF中新挂载一块100G的磁盘,具体方式请读者自行Google,但是不要忘记配置永久挂载,即修改/etc/fstab
/dev/sdb /data ext3 defaults 1 1 # 将新增的磁盘挂载到/data目录
-
新建NFS共享目录
cd /data/ mkdir nfs-share # 设置权限 chmod a+w nfs-share/ # 设置共享目录 echo "/data/nfs-share *(rw,async,no_root_squash)" >> /etc/exports # 重新加载 exportfs -r
3. 创建StorageClass
-
新建命名空间
kubectl create namespace nsf
-
创建serviceacount
-
创建serviceacount.yaml文件
apiVersion: v1 kind: ServiceAccount metadata: name: nfs-provisioner
-
创建
kubectl apply -f serviceacount.yaml -n nfs
-
-
创建rbac
-
创建rbac.yaml
kind: ClusterRole apiVersion: rbac.authorization.k8s.io/v1 metadata: name: nfs-provisioner-runner rules: - apiGroups: [""] resources: ["persistentvolumes"] verbs: ["get", "list", "watch", "create", "delete"] - apiGroups: [""] resources: ["persistentvolumeclaims"] verbs: ["get", "list", "watch", "update"] - apiGroups: ["storage.k8s.io"] resources: ["storageclasses"] verbs: ["get", "list", "watch"] - apiGroups: [""] resources: ["events"] verbs: ["create", "update", "patch"] --- kind: ClusterRoleBinding apiVersion: rbac.authorization.k8s.io/v1 metadata: name: run-nfs-provisioner subjects: - kind: ServiceAccount name: nfs-provisioner namespace: nfs roleRef: kind: ClusterRole name: nfs-provisioner-runner apiGroup: rbac.authorization.k8s.io --- kind: Role apiVersion: rbac.authorization.k8s.io/v1 metadata: name: leader-locking-nfs-provisioner rules: - apiGroups: [""] resources: ["endpoints"] verbs: ["get", "list", "watch", "create", "update", "patch"] --- kind: RoleBinding apiVersion: rbac.authorization.k8s.io/v1 metadata: name: leader-locking-nfs-provisioner subjects: - kind: ServiceAccount name: nfs-provisioner # replace with namespace where provisioner is deployed namespace: nfs roleRef: kind: Role name: leader-locking-nfs-provisioner apiGroup: rbac.authorization.k8s.io
-
创建
kubectl apply -f rbac.yaml -n nfs
-
-
创建deployment,用于监听pvc的申请并动态创建pv
-
创建deployment.yaml
kind: Deployment apiVersion: apps/v1 metadata: name: nfs-provisioner spec: replicas: 1 strategy: type: Recreate selector: matchLabels: app: nfs-provisioner template: metadata: labels: app: nfs-provisioner spec: serviceAccount: nfs-provisioner containers: - name: nfs-provisioner image: registry.cn-hangzhou.aliyuncs.com/open-ali/nfs-client-provisioner volumeMounts: - name: nfs-client-root mountPath: /persistentvolumes env: - name: PROVISIONER_NAME value: example.com/nfs # 设置storageclass提供商的名称 - name: NFS_SERVER value: 192.168.241.144 # 设置nfs共享信息 - name: NFS_PATH value: /data/nfs-share volumes: - name: nfs-client-root nfs: server: 192.168.241.144 path: /data/nfs-share
-
创建
kubectl apply -f deployment.yaml -n nfs
-
-
创建storageclass
-
创建class.yaml文件
apiVersion: storage.k8s.io/v1 kind: StorageClass metadata: name: nfs-storageclass provisioner: example.com/nfs # 必须和deployment中配置的一致 reclaimPolicy: Retain allowVolumeExpansion: true mountOptions: - debug volumeBindingMode: Immediate
-
创建
kubectl apply -f class.yaml -n nfs
-
-
将其配置为默认的storageclass
kubectl patch storageclass nfs-storageclass -p '{"metadata": {"annotations":{"storageclass.kubernetes.io/is-default-class":"true"}}}'
4. 测试
-
创建claim.yaml文件,通过创建pvc来看是否会根据storageclass来动态生成pv,注意该配置文件中没有设置storageclassname属性即将使用默认的storageclass来创建pv。
apiVersion: v1 kind: PersistentVolumeClaim metadata: name: nfs-pvc spec: accessModes: - ReadWriteMany volumeMode: Filesystem resources: requests: storage: 1G
-
创建
kubectl apply -f claim.yaml -n nfs
-
查看创建的pv
kubectl get pv