사내 모니터링 플랫폼을 개발하다가 여러가지 문제에 봉착했다.
EKS helm으로 띄운 loki 및 tempo의 서비스는 gossip protocol을 사용해 하나의 gossip ring을 만들고 그 안의 각각의 서비스들이 memberlist를 조회하며 trace 및 로그 데이터를 넘겨주는데 이때 meberlist를 제대로 찾지 못하는 에러 및 서비스들이 돌아가는 node의 private ip 주소를 찾지 못하는 에러를 발견했다.
이유는 잘못된 vpc 세팅으로 인해 발생한 에러였다.
https://docs.aws.amazon.com/vpc/latest/userguide/vpc-cidr-blocks.html
위를 확인해보면 aws에서 private subnet을 지원하는 ip CIDR이 있다.
이중에서도 확인해야할 부분이 있다.
IPv4 CIDR 블록 연결 제한
다음 표에서는 허용 및 제한되는 VPC CIDR 블록 연결에 대한 개요를 제공합니다. 제한이 적용되는 이유는 일부 AWS 서비스가 AWS 서비스 측에서 충돌하지 않는 CIDR 블록을 요구하는 교차 VPC 및 교차 계정 기능을 사용하기 때문입니다.
제한된 IP 주소 범위
172.17.0.0/16
10.0.0.0/8
169.254.0.0/16
172.16.0.0/12
192.168.0.0/16
198.19.0.0/16
공개적으로 라우팅 가능한 기타 IPv4 CIDR 블록(비RFC 1918) 또는 100.64.0.0/10 범위의 CIDR 블록.
Inter-region vpc peering 가능한 리전
미국 동부(버지니아 북부)
미국 동부(오하이오)
미국 서부(캘리포니아 북부)
미국 서부(오레곤)
AWS EU(런던)
EU(아일랜드)
EU(파리)
아시아 태평양(뭄바이)
아시아 태평양(시드니)
아시아 태평양(싱가포르)
아시아 태평양(도쿄)
캐나다(중부)
남아메리카(상파울루)
서울
예를 들어, 오사카와 같은 경우는 해외 region과 vpc peering이 되지 않습니다.
