[devops] HPA
HorizontalPodAutoscaler์ ์ฝ์๋ก, k8s์์ CPU ์ฌ์ฉ๋ฅ ์ ์ฒดํฌํ์ฌ Pod์ ๊ฐ์๋ฅผ ์ค์ผ์ผ๋งํ๋ ๊ธฐ์ ์ด๋ค. ์ง์ ํ ๋ฉํธ๋ฆญ์ controller๊ฐ ์ฒดํฌํ์ฌ ๋ถํ์ ๋ฐ๋ผ ํ์ํ pod์ replica ์๊ฐ ๋๋๋ก ์๋์ผ๋ก pod ์๋ฅผ ๋๋ฆฌ๊ฑฐ๋ ์ค์ผ ์ ์๋ ๊ธฐ์ ์ด๋ค.
Auto scaling
Auto scaling์ ์ฌ์ฉ์๊ฐ ์ ์ํ ์ฃผ๊ธฐ(์ค์ผ์ค๋ง)๋ ์ด๋ฒคํธ(๋ชจ๋ํฐ๋ง ์๋)์ ๋ฐ๋ผ ์๋ฒ๋ฅผ ์๋์ผ๋ก ์์ฑํ๊ฑฐ๋ ์ญ์ ํ๋ค. ์๋น์ค ํธ๋ํฝ์ ๋ฐ๋ผ ์๋ฒ๋ฅผ ๋๋ฆฌ๊ฑฐ๋ ์ค์ฌ ๋ฐ์ํ๋ ์๊ธ์ ์ต์ํํ๋ค.
k8s์์๋ ๋ค์๊ณผ ๊ฐ์ ์๊ณ ๋ฆฌ์ฆ์ ํตํด ์ ์ ํ pod ๊ฐ์๋ฅผ ์ ์งํ๋ค.
- Horizontal Pod Autoscaler ์ปจํธ๋กค๋ฌ๋ ์ํ๋(desired) ๋ฉํธ๋ฆญ ๊ฐ๊ณผ ํ์ฌ ๋ฉํธ๋ฆญ ๊ฐ ์ฌ์ด์ ๋น์จ๋ก ์๋ํ๋ค.
- ์ํ๋ replica ์ = ceil[ํ์ฌ replica ์ * (ํ์ฌ ๋ฉํธ๋ฆญ ๊ฐ / ์ํ๋ ๋ฉํธ๋ฆญ ๊ฐ)]
- ex) ํ์ฌ ๋ฉํธ๋ฆญ ๊ฐ์ด 200m์ด๊ณ , ์ํ๋ ๊ฐ์ด 100m์ธ ๊ฒฝ์ฐ replica ์๋ ๋๋ฐฐ๊ฐ ๋๋ค. ๋ง์ฝ ํ์ฌ ๊ฐ์ด 50mdใ ฃ๋ฉด replica ์๋ ์ ๋ฐ์ด ๋๋ค.
Scale ์ ์ฑ ์ค์
Deployment ์ค์ ์์
์ด๊ธฐ Replica(Pod) ๊ฐ์๋ฅผ 1๊ฐ๋ก ์ค์

HPA ์ค์ ์์
๋ฆฌ์์ค ์ํ์ ๋ฐ๋ผ์ 10๊ฐ๊น์ง scaling ๊ฐ๋ฅํ๋๋ก ์ค์

๋ฉํธ๋ฆญ ์์ง ๋ฐฉ๋ฒ
auto scaling์ ์ํด์๋ k8s์์ ์๋ฒ ๋ฉํธ๋ฆญ ์ ๋ณด๋ฅผ ์์งํ ์ ์์ด์ผํ๋ค. k8s์์๋ metric server๋ฅผ ํตํด pod, node์ ๋ํ ๋ฆฌ์์ค ์์๋ค์ ๋ํ metric ์ ๋ณด๋ค์ ์์งํ๋ค.
![]()
Metric server๊ฐ ์์งํ metric ์ ๋ณด๋ฅผ k8s aggregator์๊ฒ ๋ ธํฐํ๋ ๋ฐฉ์์ผ๋ก metric ์ ๋ณด๊ฐ ๊ด๋ฆฌ๋๋ค. ๋ง์ฝ metric ์ ๋ณด๋ฅผ ์ป๊ณ ์ถ๋ค๋ฉด ๋ณ๋์ tool์ ์ด์ฉํด์ aggregator์ ์๋ metric ์ ๋ณด๋ค์ ๊ฐ์ ธ๊ฐ๊ฒ ๋๋ค.
์ด๋ฌํ metric server๋ ๊ธฐ๋ณธ์ ์ k8s component์ ํฌํจ๋์ด์์ง ์๊ธฐ์ ๋ณ๋์ ์ ์ฉ์ด ํ์ํ๋ค.
kubectl apply -f https://github.com/kubernetes-sigs/metrics-server/releases/latest/download/components.yaml
์ ์์ ์ผ๋ก ์ค์น๋๋ค๋ฉด kubectl top ๋ช
๋ น์ด๋ฅผ ์ฌ์ฉํ ์ ์๋ค. ์ด ๋ช
๋ น๋ ๋ง์ฐฌ๊ฐ์ง๋ก metric ์ ๋ณด๋ฅผ ์์งํ ๊ฒ์ ๋ฐํ์ผ๋ก ๋ณด์ฌ์ค๋ค.
VPA(Vertical Pod Autoscaler)
k8s์์ metric ์ ๋ณด๋ฅผ ๊ธฐ๋ฐ์ผ๋ก auto scaling์ ์ง์ํด์ฃผ๋ component์๋ HPA ์ธ์๋ VPA๊ฐ ์๋ค. ๋์ ์ฐจ์ด์ ์ ๋ค์๊ณผ ๊ฐ๋ค.
- HPA : Scale out์ ๋ํ ๊ธฐ๋ฅ ์ ๊ณต. pod๊ฐ ๋ฐฐํฌ๋๋ ๊ฐ์๋ฅผ ๋์ฌ์ค๋ค.
- VPA : Scale up์ ๋ํ ๊ธฐ๋ฅ ์ ๊ณต. pod์ ๋ฆฌ์์ค ํ ๋น๋์ ๋์ฌ์ค๋ค.
VPA์์๋ metric์ ๊ธฐ์ค์ผ๋ก ๋ฆฌ์์ค๋ฅผ ๋๋ ค์ผํ๋ค๊ณ ํ๋จ๋๋ฉด, ๊ธฐ์กด pod์ ๋ฆฌ์์ค ํ ๋น๋์ ๋์ฌ์ฃผ๋ ๋ฐฉ์์ผ๋ก ์๋ํ๋ค.
recommendation:
containerRecommendations:
- containerName: nginx
lowerBound:
cpu: 40m
memory: 3100k
target:
cpu: 60m
memory: 3500k
upperBound:
cpu: 831m
memory: 8000kํ์ง๋ง ์ฌ๊ธฐ์๋ ํฐ ๋จ์ ์ด ์๋ค. ๋ฐ๋ก ๋ฆฌ์์ค ์ ํ์ ๋ณ๊ฒฝ์ํค๊ธฐ ์ํ ๋ฐฉ๋ฒ์ด Restart๋ง ์กด์ฌ ํ๋ค๋ ์ ์ด๋ค. ์ฆ, ์๋น์ค ์ค์ธ pod๊ฐ ์ด์์ ์ง๋ ์๋ ์๋ค๋ ๋ง์ด๋ค. ๋ฐ๋ผ์ HPA์ ๊ฐ์ด ๊ธฐ์กด pod๋ ์ ์งํ๋ ์๋ก์ด pod๋ฅผ ์ถ๊ฐํ์ฌ ์๋น์ค๋ฅผ ์ค๋จ์ํค์ง ์๋ ๋ฐฉ์์ด ์ ํธ๋๋ค.
k8s traffic ๋ถ์ฐ ๋ฐฉ๋ฒ
๊ทธ๋ผ k8s์์๋ ์ด๋ป๊ฒ ํด๋ผ์ด์ธํธ ํธ๋ํฝ์ ์ฌ๋ฌ pod๋ค๋ก ๋ถ์ฐํ ๊น?
kubernetes ๊ณต์๋ฌธ์์ ๋ฐ๋ฅด๋ฉด, k8s๋ iptable๋ฅผ ์ฌ์ฉํ์ฌ pod๋ค๋ก ํธ๋ํฝ์ ๋ถ์ฐํ๋ค. ์ด๋ ๋ฐ์ํ๋ ์ผ์ ๋ค์๊ณผ ๊ฐ๋ค.
- ์ฌ์ฉ์๊ฐ
kind:serviceobject๋ฅผ ์์ฑํ๋ค - k8s๋ virtual clusterIP๋ฅผ ๋ง๋ค๊ณ ,
kube-proxy deamonset์๊ฒ iptable์ ์ ๋ฐ์ดํธํ๋ผ๊ณ ์ง์ํ๋ค. - virtual clusterIP๋ก ์จ ์์ฒญ์ pod ip๋ก ๋ก๋๋ฐธ๋ฐ์ฑ ๋๋ค.
๋ก๋๋ฐธ๋ฐ์ฑ policy๋ ๊ธฐ๋ณธ์ ์ผ๋ก round robin ๋ฐฉ์์ด์ง๋ง, 100% ์ ํํ ํํ์ ์๋๋ค. ์์ธํ ์๊ธฐ๋ ๋ค์ ๊ฒ์๊ธ์์ ํ์ธํ ์ ์๋ค
์ถ์ฒ
- https://medium.com/dtevangelist/k8s-kubernetes%EC%9D%98-hpa%EB%A5%BC-%ED%99%9C%EC%9A%A9%ED%95%9C-%EC%98%A4%ED%86%A0%EC%8A%A4%EC%BC%80%EC%9D%BC%EB%A7%81-auto-scaling-2fc6aca61c26
- https://huisam.tistory.com/entry/k8s-hpa
- https://stackoverflow.com/questions/54865746/how-does-k8s-service-route-the-traffic-to-mulitiple-endpoints