k8s 之 DaemonSet

🕗 发布于 2024-12-09 16:25 kubernetes jenkins 容器云原生

容器化守护进程的意义：DaemonSet

DaemonSet 的主要作用，是让你在 Kubernetes 集群里，运行一个 Daemon Pod。所以，这个 Pod 有如下三个特征：

这个 Pod 运行在 Kubernetes 集群里的每一个节点（Node）上；
每个节点上只有一个这样的 Pod 实例；
当有新的节点加入 Kubernetes 集群后，该 Pod 会自动地在新节点上被创建出来；而当旧节点被删除后，它上面的 Pod 也相应地会被回收掉。

使用场景：

各种网络插件的 Agent 组件，都必须运行在每一个节点上，用来处理这个节点上的容器网络；
各种存储插件的 Agent 组件，也必须运行在每一个节点上，用来在这个节点上挂载远程存储目录，操作容器的 Volume 目录；
各种监控组件和日志组件，也必须运行在每一个节点上，负责这个节点上的监控信息和日志搜集。

实例：

apiVersion: apps/v1
kind: DaemonSet
metadata:
  name: fluentd-elasticsearch
  namespace: kube-system
  labels:
    k8s-app: fluentd-logging
spec:
  selector:
    matchLabels:
      name: fluentd-elasticsearch
  template:
    metadata:
      labels:
        name: fluentd-elasticsearch
    spec:
      tolerations:
      # 这些容忍度设置是为了让该守护进程集在控制平面节点上运行
      # 如果你不希望自己的控制平面节点运行 Pod，可以删除它们
      - key: node-role.kubernetes.io/control-plane
        operator: Exists
        effect: NoSchedule
      - key: node-role.kubernetes.io/master
        operator: Exists
        effect: NoSchedule
      containers:
      - name: fluentd-elasticsearch
        image: quay.io/fluentd_elasticsearch/fluentd:v2.5.2
        resources:
          limits:
            memory: 200Mi
          requests:
            cpu: 100m
            memory: 200Mi
        volumeMounts:
        - name: varlog
          mountPath: /var/log
      terminationGracePeriodSeconds: 30
      volumes:
      - name: varlog
        hostPath:
          path: /var/log
      - name: varlibdockercontainers
        hostPath:
          path: /var/lib/docker/containers

DaemonSet，管理的是一个 fluentd-elasticsearch 镜像的 Pod，通过 fluentd 将 Docker 容器里的日志转发到 ElasticSearch 中。
它也使用 selector 选择管理所有携带了 name=fluentd-elasticsearch 标签的 Pod。

容器挂载了两个 hostPath 类型的 Volume，分别对应宿主机的 /var/log 目录和 /var/lib/docker/containers 目录。

显然，fluentd 启动之后，它会从这两个目录里搜集日志信息，并转发给 ElasticSearch 保存。这样，我们通过 ElasticSearch 就可以很方便地检索这些日志了。

需要注意的是，Docker 容器里应用的日志，默认会保存在宿主机的 /var/lib/docker/containers/{{. 容器 ID}}/{{. 容器 ID}}-json.log 文件里，所以这个目录正是 fluentd 的搜集目标。

那么，DaemonSet 又是如何保证每个 Node 上有且只有一个被管理的 Pod 呢？
DaemonSet Controller，首先从 Etcd 里获取所有的 Node 列表，然后遍历所有的 Node。这时，它就可以很容易地去检查，当前这个 Node 上是不是有一个携带了 name=fluentdelasticsearch 标签的 Pod 在运行。

而检查的结果，可能有这三种情况：

没有这种 Pod，那么就意味着要在这个 Node 上创建这样一个 Pod；
有这种 Pod，但是数量大于 1，那就说明要把多余的 Pod 从这个 Node 上删除掉；
正好只有一个这种 Pod，那说明这个节点是正常的。

如何在指定的 Node 上创建新 Pod 呢？

答案：使用 nodeSelector ，但其实已经是一个将要被废弃的字段了，代替它是 nodeAffinity。

总结：
DaemonSet 其实是一个非常简单的控制器。在它的控制循环中，只需要遍历所有节点，然后根据节点上是否有被管理 Pod 的情况，来决定是否要创建或者删除一个 Pod。

只不过，在创建每个 Pod 的时候，DaemonSet 会自动给这个 Pod 加上一个 nodeAffinity，从而保证这个 Pod 只会在指定节点上启动。同时，它还会自动给这个 Pod 加上一个 Toleration，从而忽略节点的 unschedulable“污点”。

DaemonSet 原理及源码分析

内容的涵盖
将介绍 DaemonSet 是如何进行状态的同步、Pod 与 Node 之间的调度方式和滚动更新的过程以及实现原理。

什么是 DaemonSet ？

DaemonSet 作用就是保证 kubernetes 集群中部分或所有节点都能够运行同一份 Pod 副本，如果当有新的 Node 加入到集群，Pod 就会在目标的节点上启动；如果节点在集群中被剔除，那么该节点上 Pod 也会被剔除（被垃圾收集器清理掉）。

DaemonSet 典型使用场景

（1）日志和监控数据，在 Kubernetes 集群中收集每个节点上的日志及监控数据，可以启动 fluentd 和 Prometheus 来收集；

（2）如网络插件的 Agent 组件，都必须运行在每一个节点上，那么可以创建 DaemonSet 守护进程用来处理这个节点上的容器网络；

（3）各种存储插件的 Agent 组件，也必须运行在每一个节点上，用来在这个节点上挂载远程存储目录，操作容器的 Volume 目录；

DaemonSet 例子
官网例子
daemonset.yaml

apiVersion: apps/v1
kind: DaemonSet
metadata:
  name: fluentd-elasticsearch
  namespace: kube-system
spec:
  selector:
    matchLabels:
      name: fluentd-elasticsearch
  template:
    metadata:
      labels:
        name: fluentd-elasticsearch
    spec:
      containers:
      - name: fluentd-elasticsearch
        image: k8s.gcr.io/fluentd-elasticsearch:2.5.2
        volumeMounts:
        - name: varlog
          mountPath: /var/log
        - name: varlibdockercontainers
          mountPath: /var/lib/docker/containers
          readOnly: true
      volumes:
      - name: varlog
        hostPath:
          path: /var/log
      - name: varlibdockercontainers
        hostPath:
          path: /var/lib/docker/containers

基于 YAML 文件创建 DaemonSet：kubectl apply -f daemonset.yaml

创建成功后，在 Kubernetes 集群的 kube-system 命名空间中创建 DaemonSet 资源并在所有的节点上创建新的 Pod。

当添加新的节点时，Kubernetes 就会创建在新节点上创建新的副本，看下面拓扑结构图清晰：

外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传

实现原理

所有的 DaemonSet 都是由控制器负责管理的，与其他的资源一样，用于管理 DaemonSet 的控制器是 DaemonSetsController，该控制器会监听 DaemonSet、ControllerRevision、Pod 和 Node 资源的变动。
DaemonSetsController 结构体源码位于：pkg/controller/daemon/daemon_controller.go

daemonset controller架构图

外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传

daemonset controller核心逻辑

DaemonSetsController 同步 DaemonSet 资源使用的方法就是 syncDaemonSet，这个方法会从队列中拿到 DaemonSet 的名字时，但会先从集群中获取最新的 DaemonSet 对象并通过 constructHistory 方法查找当前 DaemonSet 全部的历史版本：

func (dsc *DaemonSetsController) syncDaemonSet(ctx context.Context, key string) error {  
   // 获取当前时间计算该方法总执行时间，也即统计对一个 daemonset 进行同步调谐操作的耗时情况
   startTime := dsc.failedPodsBackoff.Clock.Now()  
   
   // 根据 daemonset 对象的命名空间与名称，获取 daemonset 对象  
   ds, err := dsc.dsLister.DaemonSets(namespace).Get(name)  
   
   // 获取所有node的对象列表  
   nodeList, err := dsc.nodeLister.List(labels.Everything())  
     
   // 获取daemonset的历史版本  
   cur, old, err := dsc.constructHistory(ctx, ds)   
 
   // 判断该 daemonset 对象是否满足expectations机制  
   if !dsc.expectations.SatisfiedExpectations(dsKey) {   
      // 不满足则更新daemonset状态后直接return  
      return dsc.updateDaemonSetStatus(ctx, ds, nodeList, hash, false)  
   }  
  
   // manage 保证 daemonset 的pod运行在每台合适条件的node上，如果遇到合适的node上没有daemonset的pod时就会创建pod，  
   // 且不符合条件的node上的daemonset pod删除掉  
   err = dsc.manage(ctx, ds, nodeList, hash)  
   if err != nil {  
      return err  
   }  
  
   // Process rolling updates if we're ready.  
   // 再次调用，判断是否满足expectations机制：  
   // 如果策略为OnDelete不做额外处理  
   // 因为只有当手动删除旧的DaemonSet pods之后，新的 DaemonSet Pod 才会被自动创建（创建新版本的pod在dsc.manage方法中）  
   if dsc.expectations.SatisfiedExpectations(dsKey) {  
      switch ds.Spec.UpdateStrategy.Type {  
      case apps.OnDeleteDaemonSetStrategyType:  
      case apps.RollingUpdateDaemonSetStrategyType:  
         // 如果是滚动更新则调用 rollingUpdate         
         err = dsc.rollingUpdate(ctx, ds, nodeList, hash)  
      }   
   }  
   // 清理daemonset的已经不存在pod的历史版本
   err = dsc.cleanupHistory(ctx, ds, old)  
   if err != nil {  
      return fmt.Errorf("failed to clean up revisions of DaemonSet: %v", err)  
   }  
  
   // 根据当前daemonset pod的状态及node是否满足pod运行条件等信息，然后更新daemonset的状态  
   return dsc.updateDaemonSetStatus(ctx, ds, nodeList, hash, true)  
}

daemonset controller如何对pod创建和删除操作

控制器调用 syncNodes 对这些需要创建和删除的 Pod 进行同步的。

Reference：

原文地址：https://blog.csdn.net/realize_dream/article/details/144322602

免责声明：本站文章内容转载自网络资源，如本站内容侵犯了原著者的合法权益，可联系本站删除。更多内容请关注自学内容网（zxcms.com）！

上一篇：Matlab自学笔记四十四：使用dateshift函数生成日期时间型序列数据
下一篇：定时删除创建的空索引避免引起集群负载过高

.NET(C#) 如何配置用户首选项及保存用户设置
.NET(C#) 如何配置用户首选项及保存用户设置
阅读更多2024-12-14
【最新】北大数字普惠金融指数数据集-省市县（2011-2023年）
郭峰,王靖一,王芳,孔涛,张勋,程志云.测度中国数字普惠金融发展:指数编制与空间特征[J].经济学(季刊),2020,19(04):1401-1418.时间跨度：省级和城市级指数时间跨度为2011-2
阅读更多2024-12-14
GESP202412 四级【Recamán】题解（AC）
a11ak−1−kkakak−1−kak−1k小杨想知道 Recamán 数列的前n项从小到大排序后的结果。手动计算非常困难，小杨希望你能帮他解决这个问题。
阅读更多2024-12-14
IDEA遇到EasyConnect中的网络资源无法访问的问题
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。原文链接：https://blog.csdn.net/wanshanyu_/article/de
阅读更多2024-12-14
双目摄像头标定方法
此时已经完成标定，左下角为反投影误差，右边为外参可视化。将双目左右目拍的图像上传（左右目最好不少于20张）此时回到主页面，即可看到成功导出。把这些误差大的删除即可。
阅读更多2024-12-14
Servlet、omcat服务器架构与工作原理
Servlet是运行在服务器端的Java程序，它的主要职责之一是接收并处理来自客户端（如浏览器）的HTTP请求。当客户端发送一个请求到服务器时，Servlet可以解析请求中的信息，例如请求的URL路径
阅读更多2024-12-14
Vue生命周期钩子函数：深入解析与实践
作为高级Vue前端开发人员，对Vue组件的生命周期钩子函数有着深刻的理解是至关重要的。生命周期钩子函数是指在Vue组件的创建、更新、销毁等过程中，Vue自动调用的一系列方法。通过这些钩子函数，我们可以
阅读更多2024-12-14
安卓开发--使用android studio发布APP
app发布
阅读更多2024-12-14
数据结构与算法学习笔记----拓扑排序
@ author: 明月清了个风。
阅读更多2024-12-14
python 将数据保存到现有的Excel文件的新工作表
out_file = ‘query.xlsx’df1 = pd.DataFrame(out_data)若直接写入：df1.to_excel(out_file, index=False, sheet_n
阅读更多2024-12-14