[C#] CLR: GC의 구조

C#은 Java의 카피캣에서 시작된 언어다.
그래서 전반적으로 벤치마킹하거나 닮은 부분이 많은데, GC도 어느 정도는 상통하는 부분이 있지만 독자적으로 발전한 부분도 많다.

일단, C#-CLR의 GC는 JVM과 비교하면 발전 속도가 더딘 편이다.
ZGC 같은 초대규모-저지연 알고리즘 같은 것은 아직 존재하지 않는다. 그래서 수백GB-TB 수준의 메모리 핸들링에는 실질적인 제약이 존재한다.
애초에 Java 수준으로 거대한 메인프레임에 사용된 사례가 많지 않아서 그런 요구사항이 거의 없었던 것 같다.

그래도 역사적인 흐름이나 기본 원리 등은 JVM과 공유하는 것이 많아서 JVM의 GC에 대해서 먼저 알아두면 좋다.
https://blog.naver.com/sssang97/223575258532

닷넷 CLR의 GC는 Java나 Go에 비하면 세부 알고리즘에 대해 공개된 정보가 많지 않다 . 공식 문서에도 겉핥기식으로 대충만 써놨다. 그래서 내용도 좀 빈약한 편이다.

세대별(Generational) GC

CLR GC 또한 전통적인 제언에 따라서 세대별 구조를 근간으로 설계되었다.

1. 대부분의 객체는 금방 죽고

2. 오래 생존한 객체일 수록 더 오래 생존한다

는 경험에 근거한 이론 말이다.

근데 Java가 세대를 "구세대", "신세대" 둘로 나눈 것과 대조되게, CLR은 세대를 3가지로 구분했다.

https://failingfast.io/a-super-simplified-explanation-of-net-garbage-collection/
물론 단계만 하나 추가된 것일뿐, 세대 이론의 근간에서 벗어나지는 않는다.
젊은 객체는 0세대에 할당하고, 살아남으면 1세대로 승격하고, 오래 살아남으면 2세대로 승격한다.

예외적으로 매우 큰 객체는 0세대에 넣자 않고 대형 객체 힙(Large Object Heap:LOH)이라는 공간에 격리해서 저장한다. 큰 객체의 기준은 85000바이트다.

아무튼 그래서 빈번한 해제에 따른 GC는 보통 0세대에서만 이루어진다.
다만 1세대나 2세대 메모리에 GC가 트리거되면, 그 하위 세대에 대한 GC도 함께 처리된다. 예를 들어 2세대 GC가 수행되면 0,1세대 GC도 함께 묶어서 처리하는 것이다.

메모리 구조

Java의 경우에는 메모리 구조를 애초부터 쪼개서 신세대/구세대를 다른 메모리 구조에 저장했었다. (G1GC 이전)

닷넷은 메모리 구조 자체는 그것과 비교하면 단순하다. 그냥 Managed Heap이라고 해서 거대한 메모리 시퀀스를 하나 두고, 메모리 풀 개념으로 갖다쓰는 형태다.

https://www.microsoftpressstore.com/articles/article.aspx?p=2224054
저 힙에는 0-2세대의 객체들이 모두 섞여있을 수 있다.

다만, 위에서 언급했던 대형 객체 힙(LOH)의 경우에는 메모리 영역이 따로 구분된다.
너무 크면 공간 관리가 제대로 되지 않기 때문에 85000바이트가 넘는 대형 객체는 세대를 따지지 않고 곧바로 LOH에 따로 저장하는 것이다.

그리고 LOH와 대비해서 기존의 0-2세대가 모여있는 메모리 영역을 소형 객체 힙(Small Object Heap:SOH)이라고 한다.

https://failingfast.io/a-super-simplified-explanation-of-net-garbage-collection/
이런 모양새다.

Mark and Swap

현대 GC의 근간이 된 기법 중 하나다.
1960년에 리습의 창시자 매카시가 만들었다.

https://m.blog.naver.com/sssang97/221567636644
Java에서도 몇몇 GC 기법은 마크앤 스윕 기반으로 만들어졌으나 퇴출된 모양새고, C#은 지금도 이걸 기반으로 한 GC 알고리즘을 사용한다.

루트객체들부터 한바퀴 뺑 돌면서 참조되고 있는지를 체크하고, 참조되지 않은걸 싹 지워버린다는 간단한 방법이다.

매 GC 타임마다 모든 객체를 풀스캔하면서 찍고, 또 풀스캔하면서 지워야 하기 때문에 메모리가 커지면 감당이 잘 안된다는게 단점이다.

게다가 메모리 파편화도 심하다. 그냥 일단 지우고 보는게 최종 목적이기 때문에 파편화를 해결하려면 조각모음을 또 추가로 수행해야 한다.

메모리 파편화가 누적될수록 연속된 큰 공간이 없어져서 빈 공간을 찾기도 힘들고, 추가적인 정리작업이 필요해질 수도 있기 때문이다.

Memory Compact

바로 위에서 언급했듯이, GC 과정에서 쓰레기를 한번에 모아서 정리하다보면 골다공증 걸린 것처럼 구멍이 숭숭 뚫릴 수가 있다.
그러다보면 메모리 파편화가 발생하고, 효율적인 메모리 할당 영역을 잡기가 애매해서 장기적으로 할당에 대한 비효율성이 증대하게 된다.

그래서 CLR도 주기적으로 메모리 컴팩션을 통해서 메모리를 예쁘게 모으는 작업을 한다. 보통 정리작업(Sweep)과 동시에 실행하는 것 같다.

단, LOH의 경우에는 예외다. 이동 비용이 너무 크기 때문에 그냥 적당히 비워둔 채로 재사용만 한다. 물론 추가 옵션을 주면 LOH도 컴팩션을 시킬 수도 있다.

Stop The World

CLR GC에도 모든 GC에 존재하는 숙명, 정지시간이 존재한다.
통상적으로 5~15ms 정도의 정지가 발생하나, 메모리 압력이 극단적이면 훨씬 더 길어질 수도 있다.
메모리 압력 패턴에 따라서 초 단위로 갈 수도 있다.

CLR GC에는 아직 저지연을 보장하는 알고리즘이 포함되어있지 않다.

GC 알고리즘의 종류

CLR도 자바와 마찬가지로 원하는 GC 알고리즘을 선택할 수 있다.
물론 자바에 비하면 선택지가 적은 편이다.

그리고 이름을 진짜 재미없게 짓는다. 저 이름들을 봐라. 개성이 느껴지는가?

1. Concurrent GC (레거시)
.NET Framework 4부터 대체재인 background GC가 나오고 폐기됨

**2. Workstation GC **
기본값. 클라이언트 앱 전용.

**3. Server GC **
서버 전용.

4. Background GC (Workstation, Server)
.NET Framework 4부터 포함

CLR: Workstation GC

CLR에서 기본값으로 제공하는 GC 알고리즘을 부르는 명칭이다.

일반적인 GUI 클라이언트 프로그램 등에 적합한 GC 알고리즘이다. GC를 위한 전용 스레드가 따로 뜨지 않고 유저스레드 중간중간에 끼어서 호출된다.

그래서 사실 Mark and Sweep과 크게 다르지 않다.
GC가 돌면 그대로 Stop The World다. 모든걸 멈춘다.

https://learn.microsoft.com/en-us/dotnet/standard/garbage-collection/workstation-server-gc
빠른 처리가 필요한 환경에서는 적절치 않고, 가난한 환경에서 쓰거나 그냥 리소스를 적게 먹는 프로그램을 만들때 사용한다.

CLR: Server GC

고성능 서버용으로 제공되는 GC 옵션이다.
이름대로 그냥 서버 띄울거면 이게 가장 적절하다.

Workstation GC가 추가 스레드 없이 단일스레드로 동작한 것과 다르게, 이건 GC만을 위한 GC 스레드를 여러개 띄운다.

.png?type=w800) https://kimjaehak.github.io/c%23/C-performance-gc/
근데 그렇다고 해서 정지시간이 없는건 아니다. GC 스레드가 여러개 뜨긴 하는데, GC가 전부 끝나기 전까지는 모든게 멈추는건 똑같다.
그래서 낮은 지연시간을 보장하지는 못한다.

CLR: Background GC

위에서 설명했던 Workstation과 Server GC는 용도는 다르지만, GC를 때릴때 모든걸 멈춘다는 단점은 동일했다. 그걸 해결하기 위해 나온 보완적 GC 옵션이다.

이건 2세대 GC에 한해서 동시적 GC를 제공한다. 그래서 2세대 GC가 사용자 스레드를 멈추지는 않는다.
대신 0-1세대 GC는 동시적으로 실행하지 않는다. 0-1세대 GC는 여전히 전체 프로그램을 멈춘다. 0-1세대 GC는 비교적 실행시간이 짧아서 영향을 주지 않는다고는 하지만, 아무튼 여전히 멈추는건 맞다.

이건 Server에 대해서도 사용할 수 있고, Workstation에 대해서도 사용할 수 있다.
각각 Background Server GC, Background Workstation GC라고 부르기도 한다.

Server GC를 사용하면 기본값으로 Background Server GC가 실행된다.

Background Workstation GC의 경우에는 다음과 같이 동작한다.

하나의 GC 스레드만을 추가로 띄우고, 중간 0-1세대 GC나 사이사이 스텝에 대해서는 일시중지가 발생하지만, 일시중지가 발생하지 않고 동시적으로 처리되는 구간도 있다.

Background Server GC는 반대로 GC 스레드가 여러개 뜨면서, 2세대 GC를 동시적으로 수행한다.

이것도 비슷하다.
다만 일반 GC 스레드와 Background만을 위한 Background GC 스레드가 추가로 뜬다는게 다르다.
일반 GC가 일반적으로 모든 프로그램을 차단하는 Foreground GC를 때리는 그것이고, Background GC가 부분적으로만 정지를 때리는 것이다.

https://learn.microsoft.com/ko-kr/dotnet/standard/garbage-collection/fundamentals
https://stackoverflow.com/questions/492703/net-vs-java-garbage-collector
https://failingfast.io/a-super-simplified-explanation-of-net-garbage-collection/
https://stackoverflow.com/questions/64252590/how-does-clr-gc-compare-to-latest-zgc-and-shenandoah-gc-on-jvm
https://learn.microsoft.com/en-us/dotnet/standard/garbage-collection/workstation-server-gc