[AWS] Graviton Processor

Graviton은 AWS에서 직접 제조하는 ARM 계열 CPU 라인을 말한다.
물론 전부 직접 만드는건 아니고, 설계만 해서 파운드리 전문인 TSMC에 외주 넣는 식으로 만든다.

AWS에서 뭔가 리소스를 만들때, ARM로 만드는 옵션이 있다면 그게 전부 Graviton으로 띄운다는 의미다. 인스턴스 타입에 g가 붙어도 Graviton이다.

특징

AWS에서는 Graviton이 기존 x86 서버들보다 훨씬 저렴한데다가 성능도 뛰어나다고 주장한다.
AWS 비용 정책상 저렴한 것은 맞지만 성능은 경우에 따라서 좀 다를 수 있음을 유의한다.

더 싸게 팔 수 있는 이유는, 직접 만들어서도 있겠지만 ARM 특성상 전력효율이 좋은 부분도 아마 있을 것이다.

현재 시점에서 사용되는 Graviton 버전은 2, 3, 4 3가지다.
1은 쓰이지 않는걸로 알고 있고, 2, 3, 4가 주로 쓰이고 있다.
Graviton 4는 상위 인스턴스 타입 일부에만 제공된다.

일반적으로 x86 대비 20% 정도 저렴하다.

성능

Graviton2는 같은 스펙 대비해서 확실히 저렴하긴 하지만, 동 스펙의 x86보다는 전반적인 성능이 좀 떨어진다는 의견이 다수다. Graviton3 부터는 확실히 성능도 좋다는 평가가 많은 편이다.

그리고 여기에는 x86과 ARM의 구조 차이로 인해서 약간의 미묘한 지점이 있을 수 있다.
x86의 vcpu 단위는 개별 하이퍼스레드 단위와 동등한데, 이 말은 사실 vcpu 1개가 0.5 코어라는 것이다.
반면 arm의 vcpu 단위는 실제로 개별 코어에 상각한다. 원래 하이퍼스레드가 없기 때문이다.

그래서 멀티스레드 처리 능력, CPU 사용률이 매우 높은 상황에 있어서는 Graviton이 우월한 부분이 있다.
특히 스레드를 엄청 띄워대고, 스레드를 vcpu 개수 이상으로 띄워대는 상황이라면 graviton이 우위를 보인다.

그런데 CPU 사용률이 꽉 차거나, 스레드를 vcpu 개수 이상으로 띄워대는 상황이 아니라면, 오히려 x86이 빠른 편이다. 단일코어에서의 깡성능은 여전히 좋기 때문이다.

관련 벤치마크 참조
https://www.percona.com/blog/comparing-graviton-performance-to-arm-and-intel-for-mysql/

서비스

서비스마다 지원되는 Graviton 버전이 다르고, 서비스 내에서도 인스턴스 타입마다 Graviton 버전이 다르다.
그래서 얻을 수 있는 성능 향상 폭이나 안정성도 서비스에 따라 좀 다를 수 있다.
무작정 도입할게 아니라 잘 보고 선택해야 한다.

graviton을 사용 가능한 전체 서비스 목록은 여기서 조회할 수 있다.
https://aws.amazon.com/ko/ec2/graviton/fast-start/

EC2

EC2는 인스턴스 타입에 따라서 버전이 달라진다.
공통적으로 동급 대비해서 20% 정도 저렴하다.

t 시리즈 같은 저렴한 하위 타입들은 대부분 graviton2다.

t medium을 예로 든다면, 이렇다.

반면 메모리 최적화나 컴퓨팅 최적화 시리즈 같은 상위 라인업의 경우에는 대부분 graviton 4를 사용한다.

급이 높은 타입이라고 해서 깎이는 비율이 더 커지지는 않고, 대체로 20% 정도 저렴한 선이다.

EC2에 Graviton을 도입하는 것은 사용할 기술들이 ARM 환경에서도 잘 동작한다는 것이 전체되어야 한다.
충분한 조사와 테스트가 필요하다는 것이다.

Fargate

Fargate도 Graviton 인스턴스를 제공한다.
이것도 동일 코어/메모리 스펙 대비해서 약 20% 정도 저렴하게 제공된다.

AWS ECS, AWS Batch 양쪽 모두에 적용 가능하며, 작업정의 단계에서 설정할 수 있다.

Fargate에서 사용하는 Graviton 버전은 문서에서 명시하는 바가 없으나, 사용자들의 분석에 따르면 상황에 따라서 Graviton 2와 Graviton 3를 가용 리소스 상태에 따라서 랜덤으로 부여해주는 것 같다.
그러니까 x86만큼 충분히 빠를 수도 있고, 조금 못할 수도 있다는 것이다.

Lambda

Lambda의 ARM 타입은 Graviton 2만을 사용해서 제공된다.
그래서 x86 대비해서 성능이 좀 떨어질 수도 있다.

요청 횟수 기반 비용은 x86과 동등하나, 실행시간+메모리 사용량에 따른 추가 비용은 20% 정도 저렴하다.

graviton 활성화는 함수 생성 단계에서만 결정할 수 있다.

RDS

내가 볼때 이런 완성형 DB 서비스들이 graviton을 가장 무지성으로 적용하기 좋은 사례들인 것 같다.

직접 들어가서 뭐 구현해서 띄우고 그러면 타겟에 따른 걸림돌이 생기고 고려할 것이 있지만, 이런건 다 자기들이 구현해서 완성형으로 제공해주는 거니까 도입에 따른 리스크가 별로 없다.

EC2와 마찬가지로 t 시리즈 같은 하위라인은 graviton 2, r/m 시리즈 같은 상위 라인업은 graviton 4를 적용한다. 비용 절감치는 극적으로 높진 않다. 대체로 동급 대비 5%-10% 정도다.

참조
https://aws.amazon.com/ko/ec2/graviton/
https://aws.amazon.com/ko/rds/postgresql/pricing/?pg=pr&loc=3&refid=b28d8305-f5fb-4858-9ae6-04a78cfcc154
https://www.percona.com/blog/comparing-graviton-performance-to-arm-and-intel-for-mysql/
https://github.com/aws/containers-roadmap/issues/2230