[devops] HPA

HorizontalPodAutoscaler์˜ ์•ฝ์ž๋กœ, k8s์—์„œ CPU ์‚ฌ์šฉ๋ฅ ์„ ์ฒดํฌํ•˜์—ฌ Pod์˜ ๊ฐœ์ˆ˜๋ฅผ ์Šค์ผ€์ผ๋งํ•˜๋Š” ๊ธฐ์ˆ ์ด๋‹ค. ์ง€์ •ํ•œ ๋ฉ”ํŠธ๋ฆญ์„ controller๊ฐ€ ์ฒดํฌํ•˜์—ฌ ๋ถ€ํ•˜์— ๋”ฐ๋ผ ํ•„์š”ํ•œ pod์˜ replica ์ˆ˜๊ฐ€ ๋˜๋„๋ก ์ž๋™์œผ๋กœ pod ์ˆ˜๋ฅผ ๋Š˜๋ฆฌ๊ฑฐ๋‚˜ ์ค„์ผ ์ˆ˜ ์žˆ๋Š” ๊ธฐ์ˆ ์ด๋‹ค.


Auto scaling

Auto scaling์€ ์‚ฌ์šฉ์ž๊ฐ€ ์ •์˜ํ•œ ์ฃผ๊ธฐ(์Šค์ผ€์ค„๋ง)๋‚˜ ์ด๋ฒคํŠธ(๋ชจ๋‹ˆํ„ฐ๋ง ์•Œ๋žŒ)์— ๋”ฐ๋ผ ์„œ๋ฒ„๋ฅผ ์ž๋™์œผ๋กœ ์ƒ์„ฑํ•˜๊ฑฐ๋‚˜ ์‚ญ์ œํ•œ๋‹ค. ์„œ๋น„์Šค ํŠธ๋ž˜ํ”ฝ์— ๋”ฐ๋ผ ์„œ๋ฒ„๋ฅผ ๋Š˜๋ฆฌ๊ฑฐ๋‚˜ ์ค„์—ฌ ๋ฐœ์ƒํ•˜๋Š” ์š”๊ธˆ์„ ์ตœ์†Œํ™”ํ•œ๋‹ค.

0*FW7GEykC2wItvKxP

k8s์—์„œ๋Š” ๋‹ค์Œ๊ณผ ๊ฐ™์€ ์•Œ๊ณ ๋ฆฌ์ฆ˜์„ ํ†ตํ•ด ์ ์ ˆํ•œ pod ๊ฐœ์ˆ˜๋ฅผ ์œ ์ง€ํ•œ๋‹ค.

  • Horizontal Pod Autoscaler ์ปจํŠธ๋กค๋Ÿฌ๋Š” ์›ํ•˜๋Š”(desired) ๋ฉ”ํŠธ๋ฆญ ๊ฐ’๊ณผ ํ˜„์žฌ ๋ฉ”ํŠธ๋ฆญ ๊ฐ’ ์‚ฌ์ด์˜ ๋น„์œจ๋กœ ์ž‘๋™ํ•œ๋‹ค.
  • ์›ํ•˜๋Š” replica ์ˆ˜ = ceil[ํ˜„์žฌ replica ์ˆ˜ * (ํ˜„์žฌ ๋ฉ”ํŠธ๋ฆญ ๊ฐ’ / ์›ํ•˜๋Š” ๋ฉ”ํŠธ๋ฆญ ๊ฐ’)]
    • ex) ํ˜„์žฌ ๋ฉ”ํŠธ๋ฆญ ๊ฐ’์ด 200m์ด๊ณ , ์›ํ•˜๋Š” ๊ฐ’์ด 100m์ธ ๊ฒฝ์šฐ replica ์ˆ˜๋Š” ๋‘๋ฐฐ๊ฐ€ ๋œ๋‹ค. ๋งŒ์•ฝ ํ˜„์žฌ ๊ฐ’์ด 50mdใ…ฃ๋ฉด replica ์ˆ˜๋Š” ์ ˆ๋ฐ˜์ด ๋œ๋‹ค.

Scale ์ •์ฑ… ์„ค์ •

Deployment ์„ค์ • ์˜ˆ์‹œ

์ดˆ๊ธฐ Replica(Pod) ๊ฐœ์ˆ˜๋ฅผ 1๊ฐœ๋กœ ์„ค์ •

1*rRw2_cr-91eWD15rk-NViQ

HPA ์„ค์ • ์˜ˆ์‹œ

๋ฆฌ์†Œ์Šค ์ƒํƒœ์— ๋”ฐ๋ผ์„œ 10๊ฐœ๊นŒ์ง€ scaling ๊ฐ€๋Šฅํ•˜๋„๋ก ์„ค์ •

1*gpX_9eCEwnIXlGxWxOe9tw


๋ฉ”ํŠธ๋ฆญ ์ˆ˜์ง‘ ๋ฐฉ๋ฒ•

auto scaling์„ ์œ„ํ•ด์„œ๋Š” k8s์—์„œ ์„œ๋ฒ„ ๋ฉ”ํŠธ๋ฆญ ์ •๋ณด๋ฅผ ์ˆ˜์ง‘ํ•  ์ˆ˜ ์žˆ์–ด์•ผํ•œ๋‹ค. k8s์—์„œ๋Š” metric server๋ฅผ ํ†ตํ•ด pod, node์— ๋Œ€ํ•œ ๋ฆฌ์†Œ์Šค ์ž์›๋“ค์— ๋Œ€ํ•œ metric ์ •๋ณด๋“ค์„ ์ˆ˜์ง‘ํ•œ๋‹ค.

Metric server๊ฐ€ ์ˆ˜์ง‘ํ•œ metric ์ •๋ณด๋ฅผ k8s aggregator์—๊ฒŒ ๋…ธํ‹ฐํ•˜๋Š” ๋ฐฉ์‹์œผ๋กœ metric ์ •๋ณด๊ฐ€ ๊ด€๋ฆฌ๋œ๋‹ค. ๋งŒ์•ฝ metric ์ •๋ณด๋ฅผ ์–ป๊ณ  ์‹ถ๋‹ค๋ฉด ๋ณ„๋„์˜ tool์„ ์ด์šฉํ•ด์„œ aggregator์— ์žˆ๋Š” metric ์ •๋ณด๋“ค์„ ๊ฐ€์ ธ๊ฐ€๊ฒŒ ๋œ๋‹ค.

์ด๋Ÿฌํ•œ metric server๋Š” ๊ธฐ๋ณธ์ ์€ k8s component์— ํฌํ•จ๋˜์–ด์žˆ์ง€ ์•Š๊ธฐ์— ๋ณ„๋„์˜ ์ ์šฉ์ด ํ•„์š”ํ•˜๋‹ค.

kubectl apply -f https://github.com/kubernetes-sigs/metrics-server/releases/latest/download/components.yaml

์ •์ƒ์ ์œผ๋กœ ์„ค์น˜๋๋‹ค๋ฉด kubectl top ๋ช…๋ น์–ด๋ฅผ ์‚ฌ์šฉํ•  ์ˆ˜ ์žˆ๋‹ค. ์ด ๋ช…๋ น๋„ ๋งˆ์ฐฌ๊ฐ€์ง€๋กœ metric ์ •๋ณด๋ฅผ ์ˆ˜์ง‘ํ•œ ๊ฒƒ์„ ๋ฐ”ํƒ•์œผ๋กœ ๋ณด์—ฌ์ค€๋‹ค.


VPA(Vertical Pod Autoscaler)

k8s์—์„œ metric ์ •๋ณด๋ฅผ ๊ธฐ๋ฐ˜์œผ๋กœ auto scaling์„ ์ง€์›ํ•ด์ฃผ๋Š” component์—๋Š” HPA ์™ธ์—๋„ VPA๊ฐ€ ์žˆ๋‹ค. ๋‘˜์˜ ์ฐจ์ด์ ์€ ๋‹ค์Œ๊ณผ ๊ฐ™๋‹ค.

  • HPA : Scale out์— ๋Œ€ํ•œ ๊ธฐ๋Šฅ ์ œ๊ณต. pod๊ฐ€ ๋ฐฐํฌ๋˜๋Š” ๊ฐœ์ˆ˜๋ฅผ ๋†’์—ฌ์ค€๋‹ค.
  • VPA : Scale up์— ๋Œ€ํ•œ ๊ธฐ๋Šฅ ์ œ๊ณต. pod์˜ ๋ฆฌ์†Œ์Šค ํ• ๋‹น๋Ÿ‰์„ ๋†’์—ฌ์ค€๋‹ค.

VPA์—์„œ๋Š” metric์„ ๊ธฐ์ค€์œผ๋กœ ๋ฆฌ์†Œ์Šค๋ฅผ ๋Š˜๋ ค์•ผํ•œ๋‹ค๊ณ  ํŒ๋‹จ๋˜๋ฉด, ๊ธฐ์กด pod์˜ ๋ฆฌ์†Œ์Šค ํ• ๋‹น๋Ÿ‰์„ ๋†’์—ฌ์ฃผ๋Š” ๋ฐฉ์‹์œผ๋กœ ์ž‘๋™ํ•œ๋‹ค.

recommendation:
	containerRecommendations:
	- containerName: nginx
  	lowerBound:
    	cpu: 40m
    	memory: 3100k
  	target:
    	cpu: 60m
    	memory: 3500k
  	upperBound:
    	cpu: 831m
    	memory: 8000k

ํ•˜์ง€๋งŒ ์—ฌ๊ธฐ์—๋Š” ํฐ ๋‹จ์ ์ด ์žˆ๋‹ค. ๋ฐ”๋กœ ๋ฆฌ์†Œ์Šค ์ œํ•œ์„ ๋ณ€๊ฒฝ์‹œํ‚ค๊ธฐ ์œ„ํ•œ ๋ฐฉ๋ฒ•์ด Restart๋งŒ ์กด์žฌ ํ•œ๋‹ค๋Š” ์ ์ด๋‹ค. ์ฆ‰, ์„œ๋น„์Šค ์ค‘์ธ pod๊ฐ€ ์šด์˜์ •์ง€๋  ์ˆ˜๋„ ์žˆ๋‹ค๋Š” ๋ง์ด๋‹ค. ๋”ฐ๋ผ์„œ HPA์™€ ๊ฐ™์ด ๊ธฐ์กด pod๋Š” ์œ ์ง€ํ•˜๋˜ ์ƒˆ๋กœ์šด pod๋ฅผ ์ถ”๊ฐ€ํ•˜์—ฌ ์„œ๋น„์Šค๋ฅผ ์ค‘๋‹จ์‹œํ‚ค์ง€ ์•Š๋Š” ๋ฐฉ์‹์ด ์„ ํ˜ธ๋œ๋‹ค.


k8s traffic ๋ถ„์‚ฐ ๋ฐฉ๋ฒ•

๊ทธ๋Ÿผ k8s์—์„œ๋Š” ์–ด๋–ป๊ฒŒ ํด๋ผ์ด์–ธํŠธ ํŠธ๋ž˜ํ”ฝ์„ ์—ฌ๋Ÿฌ pod๋“ค๋กœ ๋ถ„์‚ฐํ• ๊นŒ?

kubernetes ๊ณต์‹๋ฌธ์„œ์— ๋”ฐ๋ฅด๋ฉด, k8s๋Š” iptable๋ฅผ ์‚ฌ์šฉํ•˜์—ฌ pod๋“ค๋กœ ํŠธ๋ž˜ํ”ฝ์„ ๋ถ„์‚ฐํ•œ๋‹ค. ์ด๋•Œ ๋ฐœ์ƒํ•˜๋Š” ์ผ์€ ๋‹ค์Œ๊ณผ ๊ฐ™๋‹ค.

  1. ์‚ฌ์šฉ์ž๊ฐ€ kind:service object๋ฅผ ์ƒ์„ฑํ•œ๋‹ค
  2. k8s๋Š” virtual clusterIP๋ฅผ ๋งŒ๋“ค๊ณ , kube-proxy deamonset์—๊ฒŒ iptable์„ ์—…๋ฐ์ดํŠธํ•˜๋ผ๊ณ  ์ง€์‹œํ•œ๋‹ค.
  3. virtual clusterIP๋กœ ์˜จ ์š”์ฒญ์€ pod ip๋กœ ๋กœ๋“œ๋ฐธ๋Ÿฐ์‹ฑ ๋œ๋‹ค.

๋กœ๋“œ๋ฐธ๋Ÿฐ์‹ฑ policy๋Š” ๊ธฐ๋ณธ์ ์œผ๋กœ round robin ๋ฐฉ์‹์ด์ง€๋งŒ, 100% ์ •ํ™•ํ•œ ํ‘œํ˜„์€ ์•„๋‹ˆ๋‹ค. ์ž์„ธํ•œ ์–˜๊ธฐ๋Š” ๋‹ค์Œ ๊ฒŒ์‹œ๊ธ€์—์„œ ํ™•์ธํ•  ์ˆ˜ ์žˆ๋‹ค


์ถœ์ฒ˜