欢迎您访问365答案网,请分享给你的朋友!
生活常识 学习资料

K8SLearning(12)——Pod调度

时间:2023-07-26
一、Pod调度

在默认情况下,一个Pod在哪个Node节点上运行,是由Scheduler组件采用相应的算法计算出来的,这个过程是不受人工控制的。但是在实际使用中,这并不满足的需求,因为很多情况下,我们想控制某些Pod到达某些节点上,那么应该怎么做呢?这就要求了解kubernetes对Pod的调度规则,kubernetes提供了四大类调度方式:

自动调度:运行在哪个节点上完全由Scheduler经过一系列的算法计算得出

定向调度:NodeName、NodeSelector

亲和性调度:NodeAffinity、PodAffinity、PodAntiAffinity

污点(容忍)调度:Taints、Toleration

二、定向调度

定向调度,指的是利用在pod上声明nodeName或者nodeSelector,以此将Pod调度到期望的node节点上。注意,这里的调度是强制的,这就意味着即使要调度的目标Node不存在,也会向上面进行调度,只不过pod运行失败而已。

(1)NodeName

NodeName用于强制约束将Pod调度到指定的Name的Node节点上。这种方式,其实是直接跳过Scheduler的调度逻辑,直接将Pod调度到指定名称的节点。

创建一个pod-nodename.yaml文件

apiVersion: v1kind: Podmetadata: name: pod-nodename namespace: mkspec: containers: - name: tomcat   image: tomcat:lastest nodeName: node1 # 指定调度到node1节点上

#创建Podkubectl create -f pod-nodename.yaml#查看Pod调度到NODE属性,确实是调度到了node1节点上kubectl get pods pod-nodename -n mk -o wide​# 接下来,删除pod,修改nodeName的值为node5(并没有node5节点)kubectl delete -f pod-nodename.yaml# vim pod-nodename.yaml 改 nodeName:node5,重新创建kubectl create -f pod-nodename.yaml​#再次查看,发现已经向Node5节点调度,但是由于不存在node5节点,所以pod无法正常运行kubectl get pods pod-nodename -n mk -o wide        

(2)NodeSelector

NodeSelector用于将pod调度到添加了指定标签的node节点上。它是通过kubernetes的label-selector机制实现的,也就是说,在pod创建之前,会由scheduler使用MatchNodeSelector调度策略进行label匹配,找出目标node,然后将pod调度到目标节点,该匹配规则是强制约束。

接下来,实验一下:

1 首先分别为node节点添加标签

kubectl label nodes node1 worker=node1kubectl label nodes node2 worker=node2

2 创建一个pod-nodeselector.yaml文件,并使用它创建Pod

apiVersion: v1kind: Podmetadata: name: pod-nodeselector namespace: mkspec: containers: - name: tomcat   image: tomcat:lastest nodeSelector:   worker: node1# 指定调度到具有worker=node1标签的节点上

#创建Podkubectl create -f pod-nodeselector.yaml​#查看Pod调度到NODE属性,确实是调度到了node1节点上kubectl get pods pod-nodeselector -n mk -o wide​# 接下来,删除pod,修改nodeSelector的值为worker: node5(不存在打有此标签的节点)kubectl delete -f pod-nodeselector.yaml# vim pod-nodeselector.yaml worker: node5kubectl create -f pod-nodeselector.yaml​#再次查看,发现pod无法正常运行,Node的值为nonekubectl get pods -n mk -o wide​# 查看详情,发现node selector匹配失败的提示kubectl describe pods pod-nodeselector -n mk

三、亲和性调度

两种定向调度的方式,使用起来非常方便,但是也有一定的问题,那就是如果没有满足条件的Node,那么Pod将不会被运行,即使在集群中还有可用Node列表也不行,这就限制了它的使用场景。

基于上面的问题,kubernetes还提供了一种亲和性调度(Affinity)。它在NodeSelector的基础之上的进行了扩展,可以通过配置的形式,实现优先选择满足条件的Node进行调度,如果没有,也可以调度到不满足条件的节点上,使调度更加灵活。

Affinity主要分为三类:

nodeAffinity(node亲和性): 以node为目标,解决pod可以调度到哪些node的问题

podAffinity(pod亲和性) : 以pod为目标,解决pod可以和哪些已存在的pod部署在同一个拓扑域中的问题

podAntiAffinity(pod反亲和性) : 以pod为目标,解决pod不能和哪些已存在pod部署在同一个拓扑域中的问题

关于亲和性(反亲和性)使用场景的说明:

亲和性:如果两个应用频繁交互,那就有必要利用亲和性让两个应用的尽可能的靠近,这样可以减少因网络通信而带来的性能损耗。

反亲和性:当应用的采用多副本部署时,有必要采用反亲和性让各个应用实例打散分布在各个node上,这样可以提高服务的高可用性。

(1)NodeAffinity

首先来看一下NodeAffinity的可配置项:

pod.spec.affinity.nodeAffinity requiredDuringSchedulingIgnoredDuringExecution Node节点必须满足指定的所有规则才可以,相当于硬限制    nodeSelectorTerms 节点选择列表      matchFields   按节点字段列出的节点选择器要求列表      matchexpressions   按节点标签列出的节点选择器要求列表(推荐)        key   键        values 值        operat or 关系符 支持Exists, DoesNotExist, In, NotIn, Gt, Lt preferredDuringSchedulingIgnoredDuringExecution 优先调度到满足指定的规则的Node,相当于软限制 (倾向)    preference   一个节点选择器项,与相应的权重相关联      matchFields   按节点字段列出的节点选择器要求列表      matchexpressions   按节点标签列出的节点选择器要求列表(推荐)        key   键        values 值        operator 关系符 支持In, NotIn, Exists, DoesNotExist, Gt, Lt weight 倾向权重,在范围1-100。

关系符的使用说明:​- matchexpressions:  - key: worker              # 匹配存在标签的key为worker的节点   operator: Exists  - key: worker              # 匹配标签的key为worker,且value是"xxx"或"yyy"的节点   operator: In   values: ["xxx","yyy"]  - key: worker              # 匹配标签的key为worker,且value大于"xxx"的节点   operator: Gt   values: "xxx"

接下来首先演示一下requiredDuringSchedulingIgnoredDuringExecution ,

创建pod-nodeaffinity-required.yaml

apiVersion: v1kind: Podmetadata: name: pod-nodeaffinity-required namespace: mkspec: containers: - name: tomcat   image: tomcat:lastest affinity:  #亲和性设置   nodeAffinity: #设置node亲和性     requiredDuringSchedulingIgnoredDuringExecution: # 硬限制       nodeSelectorTerms:       - matchexpressions: # 匹配woker的值在["node3"]中的标签         - key: worker           operator: In           values: ["node3"]

# 创建podkubectl create -f pod-nodeaffinity-required.yaml​# 查看pod状态 (运行失败)kubectl get pods pod-nodeaffinity-required -n mk -o wide​# 查看Pod的详情# 发现调度失败,提示node选择失败kubectl describe pod pod-nodeaffinity-required -n mk​#接下来,停止podkubectl delete -f pod-nodeaffinity-required.yaml# 修改文件,将values: ["node3"]------> ["node1"]vim pod-nodeaffinity-required.yaml​# 再次启动kubectl create -f pod-nodeaffinity-required.yaml​# 此时查看,发现调度成功,已经将pod调度到了node1上kubectl get pods pod-nodeaffinity-required -n mk -o wide

接下来再演示一下requiredDuringSchedulingIgnoredDuringExecution ,

创建pod-nodeaffinity-preferred.yaml

apiVersion: v1kind: Podmetadata: name: pod-nodeaffinity-preferred namespace: mkspec: containers: - name: tomcat   image: tomcat:lastest affinity:  #亲和性设置   nodeAffinity: #设置node亲和性     preferredDuringSchedulingIgnoredDuringExecution: # 软限制     - weight: 1       preference:         matchexpressions: # 匹配worker的值在["node3"]中的标签(当前环境没有)         - key: worker           operator: In           values: ["node3"]

# 创建podkubectl create -f pod-nodeaffinity-preferred.yaml​# 查看pod状态 (运行成功)kubectl get pod pod-nodeaffinity-preferred -n mk

NodeAffinity规则设置的注意事项:   1 如果同时定义了nodeSelector和nodeAffinity,那么必须两个条件都得到满足,Pod才能运行在指定的Node上   2 如果nodeAffinity指定了多个nodeSelectorTerms,那么只需要其中一个能够匹配成功即可   3 如果一个nodeSelectorTerms中有多个matchexpressions ,则一个节点必须满足所有的才能匹配成功   4 如果一个pod所在的Node在Pod运行期间其标签发生了改变,不再符合该Pod的节点亲和性需求,则系统将忽略此变化

(2)PodAffinity

PodAffinity主要实现以运行的Pod为参照,实现让新创建的Pod跟参照pod在一个区域的功能。

首先来看一下PodAffinity的可配置项:

pod.spec.affinity.podAffinity requiredDuringSchedulingIgnoredDuringExecution 硬限制    namespaces       指定参照pod的namespace    topologyKey     指定调度作用域    labelSelector   标签选择器      matchexpressions 按节点标签列出的节点选择器要求列表(推荐)        key   键        values 值        operator 关系符 支持In, NotIn, Exists, DoesNotExist.      matchLabels   指多个matchexpressions映射的内容 preferredDuringSchedulingIgnoredDuringExecution 软限制    podAffinityTerm 选项      namespaces            topologyKey      labelSelector        matchexpressions            key   键          values 值          operator        matchLabels    weight 倾向权重,在范围1-100

topologyKey用于指定调度时作用域,例如:    如果指定为kubernetes.io/hostname,那就是以Node节点为区分范围 如果指定为beta.kubernetes.io/os,则以Node节点的操作系统类型来区分

requiredDuringSchedulingIgnoredDuringExecution,

1)首先创建一个参照Pod,pod-podaffinity-target.yaml:

apiVersion: v1kind: Podmetadata: name: pod-podaffinity-target namespace: mk labels:   worker: node1 #设置标签spec: containers: - name: tomcat   image: tomcat:lastest nodeName: node1 # 将目标pod名确指定到node1上

# 启动目标podkubectl create -f pod-podaffinity-target.yaml​# 查看pod状况kubectl get pods pod-podaffinity-target -n mk

2)创建pod-podaffinity-required.yaml,内容如下:

apiVersion: v1kind: Podmetadata: name: pod-podaffinity-required namespace: mkspec: containers: - name: tomcat   image: tomcat:lastest affinity:  #亲和性设置   podAffinity: #设置pod亲和性     requiredDuringSchedulingIgnoredDuringExecution: # 硬限制     - labelSelector:         matchexpressions: # 匹配worker的值在["node3"]中的标签         - key: worker           operator: In           values: ["node3"]       topologyKey: kubernetes.io/hostname

上面配置表达的意思是:新Pod必须要与拥有标签worker=worker3的pod在同一Node上,显然现在没有这样pod。

# 启动podkubectl create -f pod-podaffinity-required.yaml​# 查看pod状态,发现未运行kubectl get pods pod-podaffinity-required -n mk# 查看详细信息kubectl describe pods pod-podaffinity-required -n mk# 接下来修改 values: ["node3"]----->values:["node1"]# 意思是:新Pod必须要与拥有标签worker=node1的pod在同一Node上# 然后重新创建pod,查看效果kubectl delete -f pod-podaffinity-required.yamlkubectl create -f pod-podaffinity-required.yaml# 发现此时Pod运行正常kubectl get pods pod-podaffinity-required -n mk

PodAffinity的 preferredDuringSchedulingIgnoredDuringExecution与上面node的相似

(3)PodAntiAffinity

PodAntiAffinity主要实现以运行的Pod为参照,让新创建的Pod跟参照pod不在一个区域中的功能。

它的配置方式和选项跟PodAffinty是一样的,这里不再做详细解释,直接做一个测试案例。

1)继续使用上个案例中目标pod

kubectl get pods -n mk -o wide --show-labels

2)创建pod-podantiaffinity-required.yaml,内容如下:

apiVersion: v1kind: Podmetadata: name: pod-podantiaffinity-required namespace: mkspec: containers: - name: tomcat   image: tomcat:lastest affinity:  #亲和性设置   podAntiAffinity: #设置pod亲和性     requiredDuringSchedulingIgnoredDuringExecution: # 硬限制     - labelSelector:         matchexpressions: # 匹配worker的值在["node1"]中的标签         - key: worker           operator: In           values: ["node1"]       topologyKey: kubernetes.io/hostname

上面配置表达的意思是:新Pod必须要与拥有标签worker=node1的pod不在同一Node上。

# 创建podkubectl create -f pod-podantiaffinity-required.yaml# 查看pod# 发现调度到了node2上kubectl get pods pod-podantiaffinity-required -n mk -o wide

四、污点和容忍

(1)污点(Taints)

前面的调度方式都是站在Pod的角度上,通过在Pod上添加属性,来确定Pod是否要调度到指定的Node上,其实我们也可以站在Node的角度上,通过在Node上添加污点属性,来决定是否允许Pod调度过来。

Node被设置上污点之后就和Pod之间存在了一种相斥的关系,进而拒绝Pod调度进来,甚至可以将已经存在的Pod驱逐出去。

污点的格式为:key=value:effect, key和value是污点的标签,effect描述污点的作用,支持如下三个选项:

PreferNoSchedule:kubernetes将尽量避免把Pod调度到具有该污点的Node上,除非没有其他节点可调度

NoSchedule:kubernetes将不会把Pod调度到具有该污点的Node上,但不会影响当前Node上已存在的Pod

NoExecute:kubernetes将不会把Pod调度到具有该污点的Node上,同时也会将Node上已存在的Pod驱离

使用kubectl设置和去除污点的命令示例如下:

# 设置污点kubectl taint nodes node1 key=value:effect​# 去除污点kubectl taint nodes node1 key:effect-​# 去除所有污点kubectl taint nodes node1 key-

设置污点的效果:

准备节点node1(为了效果明显,停止node2)

为node1节点设置一个污点: error=mk:PreferNoSchedule;然后创建pod1( pod1 可以 )

修改为node1节点设置一个污点: error=mk:NoSchedule;然后创建pod2( pod1 正常 pod2 失败 )

修改为node1节点设置一个污点: error=mk:NoExecute;然后创建pod3 ( 3个pod都失败 )

# 为node1设置污点(PreferNoSchedule)kubectl taint nodes node1 error=mk:PreferNoSchedule​# 创建pod1kubectl run taint-deploy1 --image=tomcat:lastest -n mkkubectl get pods -n mk -o wide​# 为node1设置污点(取消PreferNoSchedule,设置NoSchedule)kubectl taint nodes node1 error:PreferNoSchedule-kubectl taint nodes node1 error=mk:NoSchedule​# 创建pod2kubectl run taint-deploy2 --image=tomcat:lastest -n mkkubectl get pods taint-deploy2 -n mk -o wide# 为node1设置污点(取消NoSchedule,设置NoExecute)kubectl taint nodes node1 error:NoSchedule-kubectl taint nodes node1 error=mk:NoExecute​# 创建pod3kubectl run taint-deploy3 --image=tomcat:lastest -n mkkubectl get pods -n mk -o wide

提示:   使用kubeadm搭建的集群,默认就会给master节点添加一个污点标记,所以pod就不会调度到master节点上.

(2)容忍(Toleration)

上面介绍了污点的作用,可以在node上添加污点用于拒绝pod调度上来,如果想将一个pod调度到一个有污点的node上去,就要使用到容忍。

污点就是拒绝,容忍就是忽略,Node通过污点拒绝pod调度上去,Pod通过容忍忽略拒绝

下面先通过例子看下效果:

已经在node1节点上打上了NoExecute的污点,此时pod是调度不上去的

可以通过给pod添加容忍,然后将其调度上去

创建pod-toleration.yaml,内容如下

apiVersion: v1kind: Podmetadata: name: pod-toleration namespace: mkspec: containers: - name: tomcat   image: tomcat:lastest tolerations:      # 添加容忍 - key: "error"        # 要容忍的污点的key   operator: "Equal" # 操作符   value: "mk"    # 容忍的污点的value   effect: "NoExecute"   # 添加容忍的规则,这里必须和标记的污点规则相同

# 添加容忍之前的podkubectl get pods -n mk -o wide     ​# 添加容忍之后的podkubectl get pods -n mk -o wide

下面看一下容忍的详细配置:

kubectl explain pod.spec.tolerations......FIELDS:   key       # 对应着要容忍的污点的键,空意味着匹配所有的键   value     # 对应着要容忍的污点的值   operator  # key-value的运算符,支持Equal和Exists(默认)   effect    # 对应污点的effect,空意味着匹配所有影响   tolerationSeconds   # 容忍时间, 当effect为NoExecute时生效,表示pod在Node上的停留时间

Copyright © 2016-2020 www.365daan.com All Rights Reserved. 365答案网 版权所有 备案号:

部分内容来自互联网,版权归原作者所有,如有冒犯请联系我们,我们将在三个工作时内妥善处理。