[Go] GC: green tea

green tea GC는 go 1.25부터 실험적으로 도입되기 시작한 GC 개선 버전의 코드네임이다.
현재는 검증 단계에 있고, 유용성이 입증된다면 아마 1.26나 이후에 대체될 것 같다.

기존 Go GC의 구조를 모른다면, 별도 포스트를 참조하길 바란다.
https://blog.naver.com/sssang97/223576600679

사용 방법

현 시점 1.25 버전에서 greentea GC를 활성화하려면, 환경변수만 하나 제공하면 된다.

GOEXPERIMENT=greenteagc go run ... # 실행 
GOEXPERIMENT=greenteagc go build ... # 컴파일

이외에 코드에 직접적으로 영항을 주는 부분은 없다.

성능

go 그룹에서 주장한 바에 따르면, 기존 대비 CPU 사이클의 10~40% 정도를 절약할 수 있다고 한다.
몇배 빨라지고 그런 것까지는 아니다.

그리고 이건 작은 객체가 많은 경우에 좀 유효한 개선이다.

현 시점에서는 이게 장점만 있는 것인지를 확실하게 판단이 되지 않았다. 가끔 기존 GC 대비해서 일시정지 시간이 더 길어진다는 의견도 있더라.

기존 GC의 문제: 낮은 CPU 캐시율

Go의 GC는 원래 구조적인 단점들이 이것저것 좀 있긴 한데, 최근 Go 팀에서 중점적으로 본 부분은 캐시 효율성이 매우 떨어진다는 것이었다.

특히 Mark & Sweep의 Mark 과정에서 객체를 참조하는 것이 매번 무작위 위치를 참조하기 때문에 CPU 캐시를 전혀 활용하지 못했다는 것이 주효했다.

위 그림처럼 그냥 모든 객체가 지역성과 관계없이 서로를 아무렇게나 참조할 수 있었던 것이다.
그래서 GC Tree를 스캔하면서 이동할때마다 캐시 미스가 심각한 수준으로 발생할 수 있는 구조였다.

게다가 캐시 미스는 단일코어 영역에만 영향을 주는 것이 아니라, 멀티코어 환경에서의 리소스에도 간접적으로 병목을 가한다. CPU가 메모리를 읽을때마다 메모리 대역폭을 잡아먹기 때문이다.
그래서 현재 Go의 GC는 코어가 많아질수록 비효율적으로 동작하는 부분이 존재한다.

GreenTea는 이런 문제들을 해결하기 위해 고안되었다.

GreenTea GC - Span 단위 관리

자, 그러면 캐시 효율성을 높이려면 어떻게 해야할까?

사실 방법은 하나밖에 없다.
객체들을 묶어서 배열로 만들고, 웬만하면 배열 단위로만 처리를 하게끔 유도하는 것이다.

GreenTea도 그런 방식을 취한다.
객체들을 "Span"이라는 일종의 페이지 단위에 모아두고, 페이지 단위로만 스캔을 하도록 하는 것이다.

이 Span의 총 크기는 8KB고, Span 내 객체의 최대 크기는 512byte다. 그리고 한 Span에는 같은 크기의 객체만 들어간다.
그래서 이건 작은 객체가 매우 많은 경우에 효과적인 최적화다.

Mark 루프를 돌때도 Span 단위에 있는 객체를 한번에 읽어서 기억한 다음에 루프를 돌리는 식이다.
mark 비트도 객체 단위가 아닌 Span 단위에 저장하고, 탐색할 때도 객체를 즉시 스캔하지 않고 Span을 일단 Batch Queue에 쌓아둔 다음에 최대한 모아서 처리하는 방식을 취한다.

그래서 이전보다는 캐시 히트가 확률적으로 훨씬 높아질 수 있다.

greentea gc에 대한 실제 구현을 보고 싶다면 다음 링크에 들어가서 보면 된다.
https://go-review.googlesource.com/c/go/+/658036/24/src/runtime/mgcmark_greenteagc.go
그렇게 코드 양이 많지는 않다. 궁금하다면 한번 봐보는 것을 권장한다.

Next Step

Go 팀에서는 이 Green Tea 자체는 어느 정도 완성되었다고 판단하는 것 같다.
그 다음에 수행할 개선 작업은 SIMD를 활용한 인스트럭션 수준 병렬화라고 한다.

참조
https://go.dev/blog/greenteagc
https://github.com/golang/go/issues/73581