主要内容:
Metrics资源利用率监控、存储卷管理(临时卷ConfitMap、EmptyDir、持久卷HostPath、NFS(PV/PVC))
一、Metrics介绍
metrics是一个监控系统资源使用的插件,可以监控Node节点上的CPU、内存的使用率,或Pod对资源的占用率,通过对资源占用的了解,可以更加合理的部署容器应用;
补充:metrics从Kubernetes 1.8开始,资源使用情况的监控可以通过Metrics API的形式获取,具体的组件为Metrics Server,用来替换之前的heapster插件,所以heapster从1.11开始逐渐被放弃;
报错说明:没有http:heapster插件,该插件已被Metrics Server替换,需安装Metrics插件;
[root@master ~]# kubectl top node //查看资源占用情况
Error from server (NotFound): the server could not find the requested resource (get services http:heapster:)
部署metrics-server服务示例:
① 开启聚合服务参数
② 签发Kubelet证书
③ 安装metrics-server插件
④ 执行所有资源文件
- apiservice.yaml //注册集群API的资源文件
- deployment.yaml //主进程metrics的资源文件
- metrisc-server.tar.gz //metrisc-server插件镜像压缩包
- pdb.yaml //中断控制器
- rbac.yaml //授权控制器
- service.yaml //后端是metrics主进程的服务
1)开启聚合服务
Metrics-server是扩展的Apiserver,依赖于kube-aggregator,因此需要在Apiserver中开启聚合API相关参数(-- enable-aggregator-routing=true)
修改Api-server启动参数流程:
① 配置文件:/etc/kubernetes/manifests/kube-apiserver.yaml
- - 配置spec.containers.command添加:- -- enable-aggregator-routing=true
② 重启服务:systemctl restart kubelet
③ 验证配置:kubectl -n kube-system get pod 容器名 -o yaml | grep enable-aggregator-routing
步骤1:开启apiserver聚合服务参数
① 备份配置文件(强烈建议备份)
[root@master ~]# cd /etc/kubernetes/manifests/
[root@master manifests]# cp kube-apiserver.yaml kube-apiserver.yaml.bak //备份文件
[root@master manifests]# mv kube-apiserver.yaml.bak /root/
注意:K8S默认会载入所有配置文件,该目录下的两个文件即使修改差一个参数不同,也会一并载入可能导致覆盖,所以必须将备份文件放在其它目录,避免干扰;
② 修改配置文件,并重启验证服务
# 在spec.containers.command 最下面手动添加如下一行
[root@master manifests]# vim kube-apiserver.yaml
- --enable-aggregator-routing=true
[root@master manifests]# systemctl restart kubelet //重启服务
[root@master manifests]# kubectl -n kube-system get pod kube-apiserver-master -o yaml | grep enable-aggregator-routing //验证服务
- --enable-aggregator-routing=true
常见报错:配置文件修改错误,会导致Apiserver无法使用,需备份文件还原
修改配置示例:
2)kubelet证书
metrics插件需使用kubelet证书,需手动为kubelet签发证书;
证书的申请与签发流程:
① 配置文件:/var/lib/kubelet/config.yaml
- - 配置:serverTLSBootstrap: true //文件的最后一行添加
② 重启服务:systemctl restart kubelet
③ 签发证书:
查看证书
- - 格式:kubectl get certificatesigningrequests
签发证书
- - 格式:kubectl certificate approve 证书名称
删除证书(多余证书)
- - 格式:kubectl delete certificatesigningrequests 证书名称
步骤2:证书的申请与签发(master,node-0001,node-0002,node-0003操作)
补充:证书在签发过程中是有时效性的,当证书申请后一直未签发,kubelet会认为证书失效或丢弃,重新创建带Pending的证书,只要将该些证书签发即可,申请多余证书可删除;
① 修改配置文件,并重启服务(以master为例)
[root@master ~]# vim /var/lib/kubelet/config.yaml
serverTLSBootstrap: true //在文件的最后一行添加(申请证书参数开启)
[root@master ~]# systemctl restart kubelet //重启服务
② 签发证书(必须在 master 上执行)
[root@master ~]# kubectl get certificatesigningrequests //查看证书
NAME AGE REQUESTOR CONDITION
csr-5zbkt 13m system:node:node-0001 Pending
csr-7g67s 13m system:node:node-0002 Pending
csr-bqzjk 14m system:node:master Pending
csr-cw9dz 12m system:node:node-0003 Pending
# 在Master上,为每个节点的证书进行签发
[root@master ~]# kubectl certificate approve csr-bqzjk
certificatesigningrequest.certificates.k8s.io/csr-bqzjk approved
[root@master ~]# kubectl certificate approve csr-5zbkt
certificatesigningrequest.certificates.k8s.io/csr-5zbkt approved
[root@master ~]# kubectl certificate approve csr-7g67s
certificatesigningrequest.certificates.k8s.io/csr-7g67s approved
[root@master ~]# kubectl certificate approve csr-cw9dz
certificatesigningrequest.certificates.k8s.io/csr-cw9dz approved
[root@master ~]# kubectl get certificatesigningrequests //查看证书
NAME AGE REQUESTOR CONDITION
csr-5zbkt 11m system:node:node-0001 Approved,Issued
csr-7g67s 10m system:node:node-0002 Approved,Issued
csr-bqzjk 11m system:node:master Approved,Issued
csr-cw9dz 10m system:node:node-0003 Approved,Issued
3)安装Metrics-server插件
方法1:官网https://github.com/kubernetes-sigs/metrics-server
方法2:下载镜像和资源文件,并导入私有仓库
- - 格式:kubectl top node //查询节点的资源占用率(CPU、内存的占用情况)
步骤3:安装mertics插件
# 拷贝云盘的kubernetes/v1.17.6/metrics 目录到 master 上
[root@ecs-proxy v1.17.6]# rsync -av metrics/ 192.168.1.21:/root
[root@master ~]# tree metrics/
metrics/
├── apiservice.yaml //注册集群API的资源文件
├── deployment.yaml //主进程metrics的资源文件
├── metrisc-server.tar.gz //metrisc-server插件镜像压缩包
├── pdb.yaml //中断控制器
├── rbac.yaml //授权控制器
└── service.yaml //后端是metrics主进程的服务
0 directories, 6 files
① 导入mertics插件镜像,并上传私有镜像仓库
[root@master ~]# cd metrics/
[root@master metrics]# docker load -i metrisc-server.tar.gz
[root@master metrics]# docker tag gcr.io/k8s-staging-metrics-server/metrics-server:master 192.168.1.100:5000/metrics-server:master
[root@master metrics]# docker push 192.168.1.100:5000/metrics-server:master
② 修改deployment资源文件
[root@master metrics]# vim deployment.yaml
29: image: 192.168.1.100:5000/metrics-server:master //修改镜像地址
③ 执行资源文件(按照顺序依次创建)
[root@master metrics]# kubectl apply -f rbac.yaml //授权控制器
[root@master metrics]# kubectl apply -f pdb.yaml //中断控制器
[root@master metrics]# kubectl apply -f deployment.yaml //主进程metrics
[root@master metrics]# kubectl apply -f service.yaml //后端是metrics主进程的服务
[root@master metrics]# kubectl apply -f apiservice.yaml //注册集群API
④ 查询验证
# Metrics插件默认将pod、service、apiservices放在kube-system系统命名空间
[root@master metrics]# kubectl -n kube-system get pod //查看Pod资源
metrics-server-67fbd5bb7b-qbgkx 1/1 Running 0 2m2s
[root@master metrics]# kubectl -n kube-system get service //查看service资源
NAME TYPE CLUSTER-IP EXTERNAL-IP PORT(S) AGE
kube-dns ClusterIP 10.254.0.10 <none> 53/UDP,53/TCP,9153/TCP 4d22h
metrics-server ClusterIP 10.254.60.149 <none> 443/TCP 2m28s
[root@master metrics]# kubectl -n kube-system get apiservices //查看apiservices资源
注意:当kube-system/metrics-server的状态为True,部署Metrics插件才完成;
⑤ 验证:查询节点的资源占用率(CPU、内存的占用情况)
[root@master metrics]# kubectl top node
NAME CPU(cores) CPU% MEMORY(bytes) MEMORY%
master 79m 3% 2322Mi 62%
node-0001 23m 1% 938Mi 25%
node-0002 20m 1% 943Mi 25%
node-0003 20m 1% 1150Mi 31%
扩展:CPU毫核:CPU的计量单位叫毫核。集群中的每一个节点可以通过操作系统确认本节点的CPU内核数量,将这个数量乘以1000,得到的就是节点总的CPU总数量。
⑥ 验证:监控POD容器资源利用率
[root@master ~]# kubectl apply -f myapache.yaml
deployment.apps/myapache configured
[root@master ~]# watch -n 1 'kubectl top pod' //使用watch实时监控(每秒)
# 打开另个终端测试nodePort访问
[root@master ~]# kubectl apply -f mynodeport.yaml
service/mynodeport created
[root@master ~]# kubectl get service
[root@master ~]# curl http://192.168.1.31:30625
this is apache
# 循环访问测试
[root@master ~]# while true; do curl 192.168.1.31:30625; done
# 查看CPU监控状态
常见问题:Metrics-server服务启动后,需要等待大约 30 秒的时间用来监测资源利用率,正常现象
[root@master ~]# kubectl top pod
error: metrics not available yet
二、存储卷管理
1、ConfigMap(临时卷)
ConfigMap是在Pod中映射(文件/目录)的一种方式,允许将配置文件与镜像文件分离,以使容器化的应用程序具有可移植性;
场景:在日常工作中经常要修改各种配置文件的参数,数据库的地址、用户名密码等,这些操作在容器内非常麻烦,POD在重启或者迁移时候又会恢复到初始的状态,使用ConfigMa[就可以解决这样的问题;
常见ConfigMap案例:web集群(nginx+php),nginx需修改配置文件才能支持PHP,例如:
定义ConfigMap
ConfigMap可以映射单一文件,也可以映射一个目录
创建ConfigMap卷
- - 格式:kubectl create configmap 名称 --from-file=文件路径
查看ConfigMap卷
- - 格式:kubectl get configmaps
补充:创建完ConfigMap之后,要在资源文件中引用ConfigMap才能生效
资源文件引用ConfigMap模板:
示例:创建ConfigMap存储卷
步骤1:修改Nginx配置文件,并创建ConfigMap
① 清除所有POD(由于apache与nginx都使用 80 端口,需把实验容器全部删除)
[root@master ~]# kubectl delete -f myapache.yaml
[root@master ~]# kubectl delete -f mypod.yaml
[root@master ~]# kubectl get pod
No resources found in default namespace.
② 拷贝myos:nginx容器的Nginx配置文件,并完成修改
[root@master ~]# mkdir /var/webconf
[root@master ~]# docker run -itd --name mynginx 192.168.1.100:5000/myos:nginx //启动容器
[root@master ~]# docker ps
CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES
b24b9f2e5f34 192.168.1.100:5000/myos:nginx "/usr/local/nginx/sb…" 28 seconds ago Up 27 seconds 80/tcp mynginx
[root@master ~]# docker cp mynginx:/usr/local/nginx/conf/nginx.conf /var/webconf/ //拷贝容器目录
[root@master ~]# docker rm -f mynginx
mynginx
[root@master ~]# ls -l /var/webconf/nginx.conf
-rw-r--r-- 1 root root 2656 Jul 25 2020 /var/webconf/nginx.conf
[root@master ~]# vim /var/webconf/nginx.conf //修改配置文件
...
location ~ \.php$ {
root html;
fastcgi_pass 127.0.0.1:9000;
fastcgi_index index.php;
include fastcgi.conf;
}
...
③ 创建ConfigMap卷
- 格式:kubectl create configmap 名称 --from-file=文件路径
[root@master ~]# kubectl create configmap nginx-conf --from-file=/var/webconf/nginx.conf
configmap/nginx-conf created
[root@master ~]# kubectl get configmaps //查看ConfigMap卷
NAME DATA AGE
nginx-conf 1 6s
步骤2:在webnginx.yaml资源文件中,引用Configmap存储卷定义
[root@master ~]# vim webnginx.yaml
---
kind: Deployment //定义资源的类型
apiVersion: apps/v1
metadata:
name: webnginx //资源类型的名称
spec:
selector: //标签选择器
matchLabels:
myapp: nginx
replicas: 1 //副本数为1
template: //POD资源模板
metadata:
labels:
myapp: nginx
spec: //POD资源的详细定义
volumes: //卷的定义,映射存储卷
- name: nginx-php //卷的名称(标记1)
configMap: //定义ConfigMap卷(加载的卷可以写多个)
name: nginx-conf //加载的configmap,必须与create configmap命令创建的卷名称相同
containers: //容器的定义
- name: nginx
image: 192.168.1.100:5000/myos:nginx
volumeMounts: //挂载存储卷
- name: nginx-php //指定卷的名称,必须与(标记1)名称相同
subPath: nginx.conf //指定映射单一文件路径(映射哪一个存储卷)
mountPath: /usr/local/nginx/conf/nginx.conf //存储卷加载在容器的路径
ports:
- protocol: TCP
containerPort: 80
restartPolicy: Always
[root@master ~]# kubectl apply -f webnginx.yaml
deployment.apps/webnginx created
[root@master ~]# kubectl get pod //查询POD资源
NAME READY STATUS RESTARTS AGE
webnginx-6fdf585d7d-lptqb 1/1 Running 0 7s
# 验证服务,进入容器查看配置文件是否改变
[root@master ~]# kubectl exec -it webnginx-6fdf585d7d-lptqb -- /bin/bash
[root@webnginx-6fdf585d7d-lptqb html]# cat /usr/local/nginx/conf/nginx.conf
[root@webnginx-6fdf585d7d-lptqb html]# ss -ltun
[root@webnginx-6fdf585d7d-lptqb html]# exit
Exit
[root@master ~]# kubectl delete -f webnginx.yaml
deployment.apps "webnginx" deleted
补充:以上步骤只完成了ConfigMap卷的创建、存储卷的映射,但由于PHP文件需要后端PHP程序解析,还需添加PHP容器;其次两个容器通信需要共享网卡,最简单的方法即将两个容器写在同一个资源文件中;
步骤3:在webnginx.yaml资源文件的基础上,添加 php 容器
① 在资源文件template.spec.containers添加PHP容器
[root@master ~]# vim webnginx.yaml
---
kind: Deployment
apiVersion: apps/v1
metadata:
name: webnginx
spec:
selector:
matchLabels:
myapp: nginx
replicas: 1
template:
metadata:
labels:
myapp: nginx
spec:
volumes:
- name: nginx-php
configMap:
name: nginx-conf
containers:
- name: nginx
image: 192.168.1.100:5000/myos:nginx
volumeMounts:
- name: nginx-php
subPath: nginx.conf
mountPath: /usr/local/nginx/conf/nginx.conf
ports:
- protocol: TCP
containerPort: 80
- name: php-backend //添加PHP容器
image: 192.168.1.100:5000/myos:php-fpm //指定私有仓库PHP的镜像
restartPolicy: Always
② 执行资源文件,创建资源对象
[root@master ~]# kubectl apply -f webnginx.yaml
deployment.apps/webnginx created
[root@master ~]# kubectl get pod -o wide
③ 进入容器验证服务(1个POD有2个容器,需使用-c 指定容器)
[root@master ~]# kubectl exec -it webnginx-6c9f6fd675-hkqth -c nginx -- /bin/bash
[root@webnginx-6c9f6fd675-hkqth html]# ss -ltun
[root@webnginx-6c9f6fd675-hkqth html]# exit
exit
[root@master ~]# curl http://10.244.2.22/info.php //访问POD容器IP
<pre>
Array
(
[REMOTE_ADDR] => 10.244.0.0
[REQUEST_METHOD] => GET
[HTTP_USER_AGENT] => curl/7.29.0
[REQUEST_URI] => /info.php
)
php_host: webnginx-6c9f6fd675-hkqth
1229
补充:在同一个POD中,两个容器共享了主机名、信号向量、网卡、进程等,但没有文件系统,需要通过持久卷的加持,才能完成nginx+php方案
2、临时卷
用途:有些应用程序需要额外的存储,但并不关心数据在重启后仍然可用,即数据是否被持久地保存;例如:缓存服务经常受限于内存大小,将不常用的数据转移到比内存慢、但对总体性能的影响很小的存储中;
常见的临时卷:emptyDir、configMap、downwardAPI、secret
2.1 emptyDir卷
emptyDir是最基础的Volume类型(存储卷),用于存储临时数据的简单空目录,当Pod设置了emptyDir类型存储卷,Pod被分配到Node上时候会创建emptyDir;只要运行在Node上,emptyDir都会存在(容器挂掉不会导致emptyDir丢失数据),但是如果Pod从Node上被删除(Pod被删除,或者Pod产生迁移,emptyDir也会被删除,并且永久丢失)
emptyDir可以实现同一个Pod中数据的共享;
资源文件引用emptyDir模板:
示例:创建emptydir存储卷
① 编写资源文件,引用emptydir定义
[root@master ~]# vim webcache.yaml
---
kind: Deployment //定义资源的类型
apiVersion: apps/v1
metadata:
name: webcache //定义资源的名称
spec:
selector:
matchLabels:
myapp: cache
replicas: 1
template:
metadata:
labels:
myapp: cache
spec:
volumes: //卷的定义,映射存储卷
- name: empty-data //卷的名称(标记1)
emptyDir: {} //定义存储临时数据空目录(卷类型)
containers:
- name: apache
image: 192.168.1.100:5000/myos:httpd
stdin: false
tty: false
volumeMounts: //挂载存储卷
- name: empty-data //指定卷的名称,必须与(标记1)名称相同
mountPath: /var/cache //存储卷加载在容器的路径
ports:
- protocol: TCP
containerPort: 80
restartPolicy: Always
② 执行资源文件
[root@master ~]# kubectl apply -f webcache.yaml
deployment.apps/webcache created
[root@master ~]# kubectl get pod //查看POD资源
NAME READY STATUS RESTARTS AGE
webcache-6444646d9d-4nwkc 1/1 Running 0 11s
③ 进入容器,验证测试
[root@master ~]# kubectl exec -it webcache-6444646d9d-4nwkc -- /bin/bash
[root@webcache-6444646d9d-4nwkc html]# df -h
3、持久卷
用途:容器磁盘上的文件的生命周期是短暂的(容器本质是进程),这就使得在容器中运行重要应用时会出现一些问题。首先,当容器崩溃时,Kubelet会重启容器,但是容器中的文件将丢失,容器以干净的状态(镜像最初的状态)重新启动,其次,在Pod中同时运行多个容器时,这些容器之间通常需要共享文件,而Kubernetes中的Volume抽象就很好的解决这些问题;
目前K8S支持的Volume存储卷类型:
3.1 HostPath卷
HostPath类型则是映射node文件系统中的文件或者目录到Pod里(类似Dokcer -v),在使用hostPath类型的存储卷时,也可以设置type字段,支持的类型有文件、目录、Socket、CharDevice和BlockDevice。
注意:配置相同Pod,可能在不同的Node上表现不同,因为不同节点上映射的文件内容不同;
hostPath里面的数据不会随着Pod的结束而消失;
资源文件引用hostPath模板
示例:创建hostpath存储卷
① 映射本地目录/var/weblog到容器中
[root@master ~]# vim webcache.yaml
---
kind: Deployment
apiVersion: apps/v1
metadata:
name: webcache
spec:
selector:
matchLabels:
myapp: cache
replicas: 1
template:
metadata:
labels:
myapp: cache
spec:
volumes: //卷的定义,映射存储卷
- name: empty-data
emptyDir: {}
- name: log-data //卷的名称(标记1)
hostPath: //定义HostPath卷
path: /var/weblog //Node节点加载路径
type: DirectoryOrCreate //当目录不存在,则创建
containers:
- name: apache
image: 192.168.1.100:5000/myos:httpd
stdin: false
tty: false
volumeMounts: //挂载存储卷
- name: empty-data
mountPath: /var/cache
- name: log-data //指定卷的名称,必须与(标记1)名称相同
mountPath: /var/log/httpd //存储卷映射在容器的路径
ports:
- protocol: TCP
containerPort: 80
restartPolicy: Always
② 执行资源文件
[root@master ~]# kubectl apply -f webcache.yaml
deployment.apps/webcache configured
[root@master ~]# kubectl get pod -o wide
[root@master ~]# curl http://10.244.1.17 //测试访问容器IP地址
this is apache
③ 登录Node节点上,查看挂载的目录是否有文件
[root@master ~]# ssh 192.168.1.31
[root@node-0001 ~]# ls -l /var/weblog/
total 8
-rw-r--r-- 1 root root 86 Jul 6 16:42 access_log
-rw-r--r-- 1 root root 489 Jul 6 16:41 error_log
[root@node-0001 ~]# cat /var/weblog/access_log
10.244.0.0 - - [06/Jul/2021:08:42:12 +0000] "GET / HTTP/1.1" 200 15 "-" "curl/7.29.0"
④ 删除POD资源,查看挂载的目录中,文件是否保留
[root@master ~]# kubectl delete -f webcache.yaml
deployment.apps "webcache" deleted
[root@master ~]# ssh 192.168.1.31
[root@node-0001 ~]# ls -l /var/weblog/
total 8
-rw-r--r-- 1 root root 86 Jul 6 16:42 access_log
-rw-r--r-- 1 root root 489 Jul 6 16:41 error_log
[root@node-0001 ~]# cat /var/weblog/access_log
10.244.0.0 - - [06/Jul/2021:08:42:12 +0000] "GET / HTTP/1.1" 200 15 "-" "curl/7.29.0"
3.2 NFS共享卷
在生产环境中经常需要多个Pod或多个APP应用中共享数据,而这些应用又在不同的机器的不同Pod里面,网络文件系统经常用来解决这一问题;Kubernetes中通过简单地配置就可以挂载NFS到Pod中,而NFS中的数据是可以永久保存的,同时NFS支持并发写操作,当然cephfs、glusterfs等都能很好的解决这个问题;
PV、PVC配置
① PersistentVolume(持久卷,PV)
PV是资源的提供者,根据集群的基础设施变化而变化,由K8S集群管理员配置;
- - 格式:kubectl get pv
② Persistent VolumeClaim(持久卷声明,PVC)
PVC是资源的使用者,根据业务服务的需求变化来配置;
- - 格式:kubectl get pvc
(PC/PVC的引入,是K8S集群具备了存储的逻辑抽象能力)
配置PV(NFS资源)模板:
配置PVC(使用PV资源)模板:
引用配置文件模板:
示例:创建NFS持久卷
步骤1:搭建NFS服务器(registry操作)
[root@registry ~]# yum install -y nfs-utils
[root@registry ~]# mkdir -m 777 /var/webroot //创建共享目录
[root@registry ~]# ls -ld /var/webroot/
drwxrwxrwx 2 root root 4096 Jul 6 16:58 /var/webroot/
[root@registry ~]# vim /etc/exports
/var/webroot *(rw)
[root@registry ~]# systemctl enable --now nfs
# 所有节点都需要nfs软件包(master,node-0001,node-0002,node-0003)
[root@ecs-proxy node-install]# ansible nodes --list-hosts
hosts (3):
192.168.1.31
192.168.1.33
192.168.1.32
[root@ecs-proxy ~]# cd node-install/
[root@ecs-proxy node-install]# ansible nodes -m yum -a 'name="nfs-utils" state=present'
# 在任意其他节点测试NFS
[root@master ~]# yum install -y nfs-utils
[root@master ~]# showmount -e 192.168.1.100
Export list for 192.168.1.100:
/var/webroot *
步骤2:创建 PV持久卷
官网:持久卷 | Kubernetes
[root@master ~]# vim mypv.yaml
---
kind: PersistentVolume //定义PV持久卷类型
apiVersion: v1
metadata:
name: pv-nfs //类型的名称
spec: //PV类型的详细定义
volumeMode: Filesystem //Volume模型(支持Filesystem文件系统、Block块设备)
capacity: //定义卷的容量
storage: 30Gi //提供卷的大小
accessModes: //支持的模式(RWO、ROX,RWX,查看官网查询)
- ReadWriteOnce //卷可以被一个节点以读写方式挂载;
- ReadOnlyMany //卷可以被多个节点以只读方式挂载;
- ReadWriteMany //卷可以被多个节点以读写方式挂载
persistentVolumeReclaimPolicy: Retain //卷资源回收方式Retain自动删除,Delete手动删除
nfs: //指定NFS共享
server: 192.168.1.100 //指定NFS服务器地址
path: /var/webroot //指定共享目录
[root@master ~]# kubectl apply -f mypv.yaml
persistentvolume/pv-nfs created
[root@master ~]# kubectl get pv
NAME CAPACITY ACCESS MODES RECLAIM POLICY STATUS CLAIM STORAGECLASS REASON AGE
pv-nfs 30Gi RWO,ROX,RWX Retain Available 8s
步骤3:创建PVC持久卷声明
[root@master ~]# vim mypvc.yaml
---
kind: PersistentVolumeClaim //定义PVC持久卷声明类型
apiVersion: v1
metadata:
name: pvc-nfs //类型的名称
spec: //PVC类型的详细定义
volumeMode: Filesystem //需要Volume模型(Filesystem文件系统、Block块设备)
accessModes: //需要支持的模式
- ReadWriteMany //卷可以被多个节点以读写方式挂载
resources: //计算所需的资源
requests: //描述所需的最小计算资源量
storage: 25Gi //需要提供卷的空间
[root@master ~]# kubectl apply -f mypvc.yaml
persistentvolumeclaim/pvc-nfs created
# 查看PV和PVC服务的状态
[root@master ~]# kubectl get pv
[root@master ~]# kubectl get pvc
补充:当PV持久卷被Bound绑定后,就不能同时被其它服务绑定;
步骤4:在webnginx.yaml资源文件中,引用持久卷
[root@master ~]# vim webnginx.yaml
---
kind: Deployment
apiVersion: apps/v1
metadata:
name: webnginx
spec:
selector:
matchLabels:
myapp: nginx
replicas: 1
template:
metadata:
labels:
myapp: nginx
spec:
volumes: //卷的定义
- name: nginx-php
configMap:
name: nginx-conf
- name: website //卷的名称(标签1)
persistentVolumeClaim: //定义PVC卷类型
claimName: pvc-nfs //PVC的名称
containers: //容器的定义
- name: nginx
image: 192.168.1.100:5000/myos:nginx
volumeMounts: //挂载存储卷
- name: nginx-php
subPath: nginx.conf
mountPath: /usr/local/nginx/conf/nginx.conf
- name: website //指定卷的名称(标签1)
mountPath: /usr/local/nginx/html //存储卷映射在容器的路径
ports:
- protocol: TCP
containerPort: 80
- name: php-backend //PHP容器定义
image: 192.168.1.100:5000/myos:php-fpm
volumeMounts: //挂载存储卷
- name: website //指定卷的名称(标签1)
mountPath: /usr/local/nginx/html //存储卷映射在容器的路径
restartPolicy: Always
[root@master ~]# kubectl delete -f webnginx.yaml
deployment.apps "webnginx" deleted
[root@master ~]# kubectl apply -f webnginx.yaml
deployment.apps/webnginx created
[root@master ~]# kubectl get pod -o wide
# 拷贝网页文件到NFS服务器上,然后在容器端访问测试
[root@ecs-proxy ~]# scp kubernetes/docker-images/info.* 192.168.1.100:/var/webroot/
[root@master ~]# kubectl exec -it webnginx-d488b9447-ddfr4 -- /bin/bash
[root@webnginx-d488b9447-ddfr4 html]# ls
info.html info.php
[root@master ~]# curl http://10.244.2.23/info.html
<html>
<marquee behavior="alternate">
<font size="12px" color=#00ff00>Hello World</font>
</marquee>
</html>
[root@master ~]# curl http://10.244.2.23/info.php
<pre>
Array
(
[REMOTE_ADDR] => 10.244.0.0
[REQUEST_METHOD] => GET
[HTTP_USER_AGENT] => curl/7.29.0
[REQUEST_URI] => /info.php
)
php_host: webnginx-d488b9447-ddfr4
1229
综合案例:
完整Nginx+php部署案例
- ① 集群能够解析静态html页面和动态PHP页面(ConfigMap)
- ② 访问日志,存放到本地Node的/var/weblog中(HostPath)
- ③ 网页内容,存储到NFS服务器(PC、PVC)
- ④ 集群至少三节点,发布到互联网(Service\Ingress\nodePort\ELB+VIP)
实验架构图:
[root@master ~]# cat webcluster.yaml
---
kind: PersistentVolume
apiVersion: v1
metadata:
name: pv-nfs
spec:
volumeMode: Filesystem
capacity:
storage: 30Gi
accessModes:
- ReadWriteOnce
- ReadOnlyMany
- ReadWriteMany
persistentVolumeReclaimPolicy: Retain
nfs:
server: 192.168.1.100
path: /var/webroot
---
kind: PersistentVolumeClaim
apiVersion: v1
metadata:
name: pvc-nfs
spec:
volumeMode: Filesystem
accessModes:
- ReadWriteMany
resources:
requests:
storage: 25Gi
---
kind: ConfigMap
apiVersion: v1
metadata:
name: nginx-conf
data:
nginx.conf: |2
#user nobody;
worker_processes 1;
#error_log logs/error.log;
#error_log logs/error.log notice;
#error_log logs/error.log info;
#pid logs/nginx.pid;
events {
worker_connections 1024;
}
http {
include mime.types;
default_type application/octet-stream;
#log_format main '$remote_addr - $remote_user [$time_local] "$request" '
# '$status $body_bytes_sent "$http_referer" '
# '"$http_user_agent" "$http_x_forwarded_for"';
#access_log logs/access.log main;
sendfile on;
#tcp_nopush on;
#keepalive_timeout 0;
keepalive_timeout 65;
#gzip on;
server {
listen 80;
server_name localhost;
#charset koi8-r;
#access_log logs/host.access.log main;
location / {
root html;
index index.html index.htm;
}
#error_page 404 /404.html;
# redirect server error pages to the static page /50x.html
#
error_page 500 502 503 504 /50x.html;
location = /50x.html {
root html;
}
# proxy the PHP scripts to Apache listening on 127.0.0.1:80
#
#location ~ \.php$ {
# proxy_pass http://127.0.0.1;
#}
# pass the PHP scripts to FastCGI server listening on 127.0.0.1:9000
#
location ~ \.php$ {
root html;
fastcgi_pass 127.0.0.1:9000;
fastcgi_index index.php;
include fastcgi.conf;
}
# deny access to .htaccess files, if Apache's document root
# concurs with nginx's one
#
#location ~ /\.ht {
# deny all;
#}
}
# another virtual host using mix of IP-, name-, and port-based configuration
#
#server {
# listen 8000;
# listen somename:8080;
# server_name somename alias another.alias;
# location / {
# root html;
# index index.html index.htm;
# }
#}
# HTTPS server
#
#server {
# listen 443 ssl;
# server_name localhost;
# ssl_certificate cert.pem;
# ssl_certificate_key cert.key;
# ssl_session_cache shared:SSL:1m;
# ssl_session_timeout 5m;
# ssl_ciphers HIGH:!aNULL:!MD5;
# ssl_prefer_server_ciphers on;
# location / {
# root html;
# index index.html index.htm;
# }
#}
}
---
kind: Deployment
apiVersion: apps/v1
metadata:
name: webnginx
spec:
selector:
matchLabels:
myapp: nginx
replicas: 3
template:
metadata:
labels:
myapp: nginx
spec:
volumes:
- name: nginx-php
configMap:
name: nginx-conf
- name: log-data
hostPath:
path: /var/log/weblog
type: DirectoryOrCreate
- name: website
persistentVolumeClaim:
claimName: pvc-nfs
containers:
- name: nginx
image: 192.168.1.100:5000/myos:nginx
volumeMounts:
- name: nginx-php
subPath: nginx.conf
mountPath: /usr/local/nginx/conf/nginx.conf
- name: log-data
mountPath: /usr/local/nginx/logs
- name: website
mountPath: /usr/local/nginx/html
ports:
- protocol: TCP
containerPort: 80
- name: php-backend
image: 192.168.1.100:5000/myos:php-fpm
volumeMounts:
- name: website
mountPath: /usr/local/nginx/html
restartPolicy: Always
---
kind: Service
apiVersion: v1
metadata:
name: webcluster
spec:
ports:
- protocol: TCP
port: 80
targetPort: 80
selector:
myapp: nginx
type: ClusterIP
---
apiVersion: extensions/v1beta1
kind: Ingress
metadata:
name: myweb
annotations:
kubernetes.io/ingress.class: "nginx"
spec:
backend:
serviceName: webcluster
servicePort: 80
[root@master ~]# kubectl apply -f webcluster.yaml
persistentvolume/pv-nfs created
persistentvolumeclaim/pvc-nfs created
configmap/nginx-conf created
deployment.apps/webnginx created
service/webcluster created
ingress.extensions/myweb created
[root@master ~]# kubectl get pod
NAME READY STATUS RESTARTS AGE
webnginx-647877b59-hdb64 2/2 Running 0 11s
webnginx-647877b59-ljb6g 2/2 Running 0 11s
webnginx-647877b59-rqmdr 2/2 Running 0 11s
[root@master ~]# kubectl get ingresses
NAME HOSTS ADDRESS PORTS AGE
myweb * 192.168.1.31 80 17s
# 给 node-0001 绑定弹性公网IP,或使用 ELB 发布到互联网即可验证
小结:
本篇章节为【第五阶段】CLOUD-DAY9 的学习笔记,这篇笔记可以初步了解到 Metrics资源利用率监控、存储卷管理(临时卷ConfitMap、EmptyDir、持久卷HostPath、NFS(PV/PVC))。
Tip:毕竟两个人的智慧大于一个人的智慧,如果你不理解本章节的内容或需要相关笔记、视频,可私信小安,请不要害羞和回避,可以向他人请教,花点时间直到你真正的理解。