Kubernetes K8S之通过helm部署metrics-server与HPA详解

发表于 | 分类于 ， | | 阅读次数:
字数统计: 1.2k | 阅读时长 ≈ 6

image

Kubernetes K8S之通过helm部署metrics-server与 Horizontal Pod Autoscaling (HPA)详解

主机配置规划

服务器名称(hostname) 系统版本 配置 内网IP 外网IP(模拟)
k8s-master CentOS7.7 2C/4G/20G 172.16.1.110 10.0.0.110
k8s-node01 CentOS7.7 2C/4G/20G 172.16.1.111 10.0.0.111
k8s-node02 CentOS7.7 2C/4G/20G 172.16.1.112 10.0.0.112

使用Helm部署metrics-server

正常情况下，如果没有部署metrics-server那么我们使用如下命令是收集不到信息的

1
2
kubectl top node
kubectl top pod -A

首先完成「Kubernetes K8S之Helm部署、使用与示例」。

从Heapster的 GitHub地址：https://github.com/kubernetes-retired/heapster 中可以看到，heapster 已经 RETIRED【过时】。从Kubernetes 1.12开始将从Kubernetes各种安装脚本中移除。Kubernetes推荐使用metrics-server。我们这里使用Helm来部署metrics-server。

GitHub地址：

1
https://github.com/kubernetes-sigs/metrics-server

metrics-server-amd64镜像下载

1
2
3
4
# 在集群所有节点都需要执行
docker pull registry.cn-beijing.aliyuncs.com/google_registry/metrics-server-amd64:v0.3.6
docker tag  registry.cn-beijing.aliyuncs.com/google_registry/metrics-server-amd64:v0.3.6  k8s.gcr.io/metrics-server-amd64:v0.3.6
docker rmi  registry.cn-beijing.aliyuncs.com/google_registry/metrics-server-amd64:v0.3.6

metrics-server.yaml文件

1
2
3
4
5
6
7
8
[root@k8s-master helm]# pwd
/root/k8s_practice/helm
[root@k8s-master helm]# 
[root@k8s-master helm]# cat metrics-server.yaml 
args:
- --logtostderr
- --kubelet-insecure-tls
- --kubelet-preferred-address-types=InternalIP

通过helm部署metrics-server

1
2
3
4
# 查询metrics-server的各个版本信息
helm search stable/metrics-server -l
# 通过helm部署metrics-server并指定了版本
helm install stable/metrics-server --version 2.11.1 -n metrics-server --namespace kube-system -f metrics-server.yaml

查看helm和pod信息

1
2
3
4
5
6
7
8
9
[root@k8s-master ~]# helm list
NAME          	REVISION	UPDATED                 	STATUS  	CHART                	APP VERSION	NAMESPACE  
metrics-server	1       	Mon Jul 20 10:06:58 2020	DEPLOYED	metrics-server-2.11.1	0.3.6      	kube-system
[root@k8s-master ~]# 
[root@k8s-master ~]# kubectl get deploy -A | grep 'metrics-server'
kube-system            metrics-server              1/1     1            1           94s
[root@k8s-master ~]# 
[root@k8s-master ~]# kubectl get pod -A | grep 'metrics-server'
kube-system            metrics-server-6796d97d6b-wvd48              1/1     Running   0          18s

现在使用下面的命令可以获取到关于集群Node节点和Pod的指标信息：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
[root@k8s-master ~]# kubectl top node
NAME         CPU(cores)   CPU%   MEMORY(bytes)   MEMORY%   
k8s-master   205m         10%    2122Mi          57%       
k8s-node01   130m         6%     1060Mi          61%       
k8s-node02   193m         9%     1093Mi          63%       
[root@k8s-master ~]# 
[root@k8s-master ~]# kubectl top pod -A
NAMESPACE              NAME                                         CPU(cores)   MEMORY(bytes)   
default                load-generator-57d5fb67c7-xx2wj              0m           0Mi             
default                php-apache-5db466758-k2vxj                   1m           20Mi            
kube-system            coredns-6955765f44-c9zfh                     5m           20Mi            
kube-system            coredns-6955765f44-lrz5q                     5m           20Mi            
kube-system            etcd-k8s-master                              21m          88Mi   
………………

Horizontal Pod Autoscaling(HPA)

Horizontal Pod Autoscaling(HPA) 可以根据CPU利用率自动伸缩一个Replication Controller、Deployment或者ReplicaSet中的Pod数量。

案例镜像下载

1
2
3
# gcr.io/google_containers/hpa-example 在国外，这里我们下载国内镜像
# 在集群所有节点都需要执行【主要是node节点】
docker pull registry.cn-beijing.aliyuncs.com/google_registry/hpa-example

启动pod

1
kubectl run php-apache --image=registry.cn-beijing.aliyuncs.com/google_registry/hpa-example --requests=cpu=200m --expose --port=80

创建HPA控制器，相关算法参见如下地址：

1
2
3
# 官方地址：https://v1-17.docs.kubernetes.io/zh/docs/tasks/run-application/horizontal-pod-autoscale/
# 当pod中CPU使用率达50%就扩容。最小1个，最大10个
kubectl autoscale deployment php-apache --cpu-percent=50 --min=1 --max=10

此时查询相关信息

1
2
3
4
5
6
7
8
9
10
[root@k8s-master ~]# kubectl get hpa
NAME         REFERENCE               TARGETS         MINPODS   MAXPODS   REPLICAS   AGE
php-apache   Deployment/php-apache   0%/50%          1         10        1          3m16s
[root@k8s-master ~]# 
[root@k8s-master ~]# kubectl get deploy -A | grep 'php-apache'
default                php-apache                  1/1     1            1           10h
[root@k8s-master ~]# 
[root@k8s-master ~]# kubectl get pod -o wide
NAME                         READY   STATUS    RESTARTS   AGE    IP             NODE         NOMINATED NODE   READINESS GATES
php-apache-5db466758-k2vxj   1/1     Running   0          8m8s   10.244.4.176   k8s-node01   <none>           <none>

增加负载

1
2
3
4
5
6
# 启动一个pod并进入一个终端
kubectl run -i --tty load-generator --image=registry.cn-beijing.aliyuncs.com/google_registry/myapp:v1 /bin/sh
# 再次进入pod【注意pod名称，根据实际情况修改】
kubectl exec -it load-generator-57d5fb67c7-xx2wj -- /bin/sh
# 在pod中循环访问
while true; do wget -q -O- http://php-apache.default.svc.cluster.local; done

如果需要多个终端访问，那么只需要修改tty终端名称【如：load-generator01】。进入后再次循环访问即可。

增加负载后【可能需要等会儿】，php-apache的pod数量达到了最大值10。此时的pod信息为：

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
[root@k8s-master ~]# kubectl get hpa
NAME         REFERENCE               TARGETS    MINPODS   MAXPODS   REPLICAS   AGE
php-apache   Deployment/php-apache   465%/50%   1         10        10         10h
[root@k8s-master ~]# 
[root@k8s-master ~]# kubectl get deploy -A | grep 'php-apache'
default                php-apache                  10/10   10           10          10h
[root@k8s-master ~]# 
[root@k8s-master ~]# kubectl get pod
NAME                                READY   STATUS    RESTARTS   AGE
load-generator-57d5fb67c7-xx2wj     1/1     Running   0          48m
load-generator02-6c857bf9b5-cfmhj   1/1     Running   1          22s
php-apache-5db466758-2jv4x          1/1     Running   0          5m13s
php-apache-5db466758-4cxxm          1/1     Running   0          5m28s
php-apache-5db466758-6vz2b          1/1     Running   0          5m13s
php-apache-5db466758-98sqk          1/1     Running   0          4m58s
php-apache-5db466758-hdvrs          1/1     Running   0          5m13s
php-apache-5db466758-k2vxj          1/1     Running   0          62m
php-apache-5db466758-srctq          1/1     Running   0          4m58s
php-apache-5db466758-vkr5d          1/1     Running   0          5m28s
php-apache-5db466758-vmhlv          1/1     Running   0          5m13s
php-apache-5db466758-x8kms          1/1     Running   0          5m28s

此时，如果我们停止负载访问压测，pod数量也不会立即降下来。而是过段时间后才会慢慢降下来。

这也是为了安全起见，防止由于网络原因或者间歇性流量突增、突降，导致pod回收太快后面流量上来后Pod数量不够。

相关阅读

1、Kubernetes K8S之Helm部署、使用与示例

2、Pod 水平自动伸缩

完毕！

<-------------the end------------->
lightzhang wechat
欢迎扫一扫，订阅我的微信公众号！
坚持原创分享，你的支持就是我最大的动力！