网创优客建站品牌官网
为成都网站建设公司企业提供高品质网站建设
热线:028-86922220
成都专业网站建设公司

定制建站费用3500元

符合中小企业对网站设计、功能常规化式的企业展示型网站建设

成都品牌网站建设

品牌网站建设费用6000元

本套餐主要针对企业品牌型网站、中高端设计、前端互动体验...

成都商城网站建设

商城网站建设费用8000元

商城网站建设因基本功能的需求不同费用上面也有很大的差别...

成都微信网站建设

手机微信网站建站3000元

手机微信网站开发、微信官网、微信商城网站...

建站知识

当前位置:首页 > 建站知识

k8s通过ceph-csi接入存储的实例分析

k8s通过ceph-csi接入存储的实例分析,针对这个问题,这篇文章详细介绍了相对应的分析和解答,希望可以帮助更多想解决这个问题的小伙伴找到更简单易行的方法。

为崇阳等地区用户提供了全套网页设计制作服务,及崇阳网站建设行业解决方案。主营业务为成都网站建设、网站制作、崇阳网站设计,以传统方式定制建设网站,并提供域名空间备案等一条龙服务,秉承以专业、用心的态度为用户提供真诚的服务。我们深信只要达到每一位用户的要求,就会得到认可,从而选择与我们长期合作。这样,我们也可以走得更远!

概述

下面的分析是k8s通过ceph-csi接入ceph存储(csi相关组件的分析以rbd为例进行分析),对所涉及的k8s对象与组件进行了简单的介绍,以及对存储进行操作的流程分析,存储相关操作包括了存储创建、存储扩容、存储挂载、解除存储挂载以及存储删除操作。

关联链接

ceph-csi套件分析目录导航

涉及k8s对象

1. PersistentVolume

持久存储卷,集群级别资源,代表了存储卷资源,记录了该存储卷资源的相关信息。

回收策略

(1)retain:保留策略,当删除PVC的时候,PV与外部存储资源仍然存在。

(2)delete:删除策略,当与pv绑定的pvc被删除的时候,会从k8s集群中删除PV对象,并执行外部存储资源的删除操作。

(3)resycle(已废弃)

pv状态迁移

available --> bound --> released

2. PersistentVolumeClaim

持久存储卷声明,namespace级别资源,代表了用户对于存储卷的使用需求声明。

pvc状态迁移

pending --> bound

3. StorageClass

定义了创建pv的模板信息,集群级别资源,用于动态创建pv。

涉及组件与作用

下面先简单介绍下涉及的组件与作用,后面会有单独详细的介绍各个组件的作用。

1. controller manager

PV controller

负责pv、pvc的绑定与生命周期管理,并根据需求进行创建/删除底层存储的操作,并创建/删除pv对象。

本次的分析为k8s通过ceph-csi来使用ceph存储。本次分析中,创建/删除底层存储、创建/删除pv对象的操作由external-provisioner来触发完成,所以本次分析中的PV controller只负责pv、pvc的绑定与生命周期管理。

AD controller

主要负责存储设备的Attach/Detach操作(如创建、删除VolumeAttachment对象,将数据卷挂载到特定node节点上等);以及更新node.Status.VolumesAttached。

本次的分析为k8s通过ceph-csi来使用ceph存储。本次分析中,AD controller只创建/删除VolumeAttachment对象,而不会真正的将数据卷挂载到节点/从节点上解除挂载;csi-attacer组件也不会做挂载/解除挂载操作,只是更新VolumeAttachment对象,真正的节点挂载/解除挂载操作由kubelet中的volume manager调用ceph-csi来完成。

2. kubelet

volume manager

主要是管理卷的Attach/Detach(与AD controller作用相同,通过kubelet启动参数控制哪个组件来做该操作,后续会详细介绍)、mount/umount等操作。

本次的分析为k8s通过ceph-csi来使用ceph存储。本次分析中,volume manager的Attach/Detach操作只创建/删除VolumeAttachment对象,而不会真正的将数据卷挂载到节点/从节点上解除挂载;csi-attacer组件也不会做挂载/解除挂载操作,只是更新VolumeAttachment对象,真正的节点挂载/解除挂载操作由kubelet中volume manager调用rc.operationExecutor.MountVolume/rc.operationExecutor.UnmountDevice方法时,调用ceph-csi来完成。

3. volume plugin

扩展各种存储类型的卷的管理能力,实现第三方存储的各种操作能力与k8s存储系统的结合。调用第三方存储的接口或命令,从而提供数据卷的创建/删除、attach/detach、mount/umount的具体操作实现,可以认为是第三方存储的代理人。前面分析组件中的对于数据卷的创建/删除、attach/detach、mount/umount操作,全是调用volume plugin来完成。

后续对volume plugin的详细分析,以通过ceph-csi操作rbd为例进行分析。

根据源码所在位置,volume plugin分为in-tree与out-of-tree。

in-tree

在k8s源码内部实现,和k8s一起发布、管理,更新迭代慢、灵活性差。

out-of-tree

代码独立于k8s,由存储厂商实现,有csi、flexvolume两种实现。

本次的分析为k8s通过ceph-csi来使用ceph存储。本次分析中的volume plugin是指ceph-csi及其相关组件,包括ceph-csi、external-provisioner、external-attacher、external-resizer等。

存储相关操作流程分析

下面对每个操作的整体流程进行分析,后面会对涉及的每个组件进行源码分析。

1. 存储创建

流程图

k8s通过ceph-csi接入存储的实例分析

流程分析

(1)用户创建pvc对象;

(2)external-provisioner组件监听到pvc的新增事件,调用csi组件进行存储的创建;

(3)csi组件调用ceph创建底层存储;

(4)底层存储创建完成后,external-provisioner根据存储信息,拼接pv对象,创建pv对象;

(5)pv controller监听pvc对象,寻找合适的pv对象,与pvc对象绑定。

2. 存储扩容

流程图

k8s通过ceph-csi接入存储的实例分析

流程分析

(1)修改pvc对象,修改申请存储大小;

(2)修改成功后,external-resizer监听到该pvc的update事件,发现pvc.Spec.Resources.Requests.storgage比pvc.Status.Capacity.storgage大,于是调csi controller端扩容,进行底层存储扩容,扩容完毕后更新pv对象的.Spec.Capacity.storgage;

(3)kubelet的volume manager在reconcile()调谐过程中发现pv.Spec.Capacity.storage大于pvc.Status.Capacity.storage,于是调csi node端扩容,对dnode上存储对应的文件系统扩容,成功后kubelet更新pvc.Status.Capacity.storage。

3. 存储挂载

流程图

kubelet启动参数--enable-controller-attach-detach,该启动参数设置为 true 表示启用 Attach/Detach controller进行Attach/Detach 操作,同时禁用 kubelet 执行 Attach/Detach 操作(默认值为 true)。实际上Attach/Detach 操作就是创建/删除VolumeAttachment对象。

(1)kubelet启动参数--enable-controller-attach-detach=true,Attach/Detach controller进行Attach/Detach 操作
k8s通过ceph-csi接入存储的实例分析

(2)kubelet启动参数--enable-controller-attach-detach=false,kubelet端volume manager进行Attach/Detach 操作 k8s通过ceph-csi接入存储的实例分析

流程分析

(1)用户创建一个挂载了pvc的pod;

(2)AD controller或volume manager中的reconcile()发现有volume未执行attach操作,于是进行attach操作,即创建VolumeAttachment对象;

(3)external-attacher组件list/watch VolumeAttachement对象,更新VolumeAttachment.status.attached=true;

(4)AD controller更新node对象的.Status.VolumesAttached属性值,将该volume记为attached;

(5)kubelet中的volume manager获取node.Status.VolumesAttached属性值,发现volume已被标记为attached;

(6)于是volume manager中的reconcile()调用ceph-csi组件的NodeStageVolume与NodePublishVolume完成挂载。

4. 解除存储挂载

流程图

(1)AD controller
k8s通过ceph-csi接入存储的实例分析

(2)volume manager k8s通过ceph-csi接入存储的实例分析

流程分析

(1)用户删除声明了pvc的pod;

(2)AD controller或volume manager中的reconcile()发现有volume未执行dettach操作,于是进行dettach操作,即删除VolumeAttachment对象;

(3)AD controller或volume manager等待VolumeAttachment对象删除成功;

(4)AD controller更新新node对象的.Status.VolumesAttached属性值,将标记为attached的该volume从属性值中去除;

(5)kubelet中的volume manager获取node.Status.VolumesAttached属性值,找不到相关的volume信息;

(6)于是volume manager中的reconcile()调用ceph-csi组件的NodeUnpublishVolume与NodeUnstageVolume完成解除挂载。

5. 删除存储

流程图

k8s通过ceph-csi接入存储的实例分析

流程分析

(1)用户删除pvc对象;

(2)pv controller发现与pv绑定的pvc对象被删除,于是更新pv的状态为released;

(3)external-provisioner watch到pv更新事件,并检查pv的状态是否为released,以及回收策略是否为delete;

(4)接下来external-provisioner组件会调用ceph-csi的DeleteVolume来删除存储;

(5)ceph-csi组件的DeleteVolume方法,调用ceph集群命令,删除底层存储;

(6)external-provisioner组件删除pv对象。

关于k8s通过ceph-csi接入存储的实例分析问题的解答就分享到这里了,希望以上内容可以对大家有一定的帮助,如果你还有很多疑惑没有解开,可以关注创新互联行业资讯频道了解更多相关知识。


文章名称:k8s通过ceph-csi接入存储的实例分析
标题URL:http://bjjierui.cn/article/jodpjo.html

其他资讯