[C#] JIT 구조

C#, dotnet 런타임에서 JIT 최적화를 실행하는 방법에 대해 정리해보겠다.

Java와 비교하면서 보는 것도 의미가 있을 것이다. JVM과 크게 다르지는 않다.
https://blog.naver.com/sssang97/223573816314

JIT 컴파일

JIT 컴파일이란, 프로그램 실행중에 스크립트 코드를 실제 머신코드로 변환하는 최적화 기법을 말한다.

C# 컴파일러는 C# 코드를 CIL(Common Intermediate Language)라고 하는 중간 언어로 변환해주는 것에 불과하고, C# 런타임은 그 CIL 스크립트를 실행해주는 인터프리터다.

당연히 스크립트를 실행하는 것은 머신코드에 비하면 훨씬 느리다. Python 같은 순수 인터프리터가 느린 이유이기도 하다.

하지만 C#, Java 등의 언어는 하이브리드 인터프리터로 동작하기 때문에, CIL를 그때그때 최적화된 머신코드로 변환해서 실행한다.

https://www.geeksforgeeks.org/python/what-is-just-in-time-jit-compiler-in-dot-net/
이게 느리다는 이야기가 그렇게 많이 나오지 않는 이유다.

계층화된 컴파일 (Tiered Compilation)

이건 .Net Core 3.0부터 기본으로 적용되어있다.

근데 항상 극도로 최적화된 머신코드를 뽑아내서 실행하면 좋긴 하겠지만, 항상 그러는건 효율적이지 않을 수 있다. 일단 컴파일 시간이 길어질 것이고, 실행중에 낭비하는 리소스도 커질 것이다.

그래서 적당히 절충해서 도입한 개념이 Tired Compile이다.
JVM Hotspot에서 C1, C2 컴파일러를 나눠둔 것과 유사하다.

Tier0, Tier1으로 구분되며, 일반적으로 메서드 단위로 관리된다.
JVM과의 가장 큰 차이점은, 인터프리터 모드 없이 가벼운 최적화(Tier0)로 바로 진입한다는 것이다.

Tier0

Tier0는 가벼운 최적화를 거친 코드다. 빠르게 실행하기 위해 최적화 수준은 높지 않은 채로 생성한다.
특별한 이유가 없다면 Tier0로 시작하며, 루프가 없는 단순한 메서드라면 더욱 더 Tier0가 선호된다.

Tier1

Tier0 단계의 메서드가 일정 횟수 이상 호출된다면 Tier1로 판단하고 다시 제대로 최적화를 한다.
"일정 횟수"는 현재 메서드 호출 횟수 기준 30으로 하드코딩되어있다. 추후 변경될 가능성은 있다.

Tier0(QuickJit)으로 인한 성능 저하

근데 아무래도 tier0 코드는 대충 최적화를 하는거라서 지나치게 비효율적으로 컴파일이 될 수도 있다.
그래서 경우에 따라서는 tiered 옵션을 부분적으로, 혹은 전역적으로 끄기를 원할 수도 있다.

부분적으로 적용하려면 어노테이션을 사용할 수 있다.
다음과 같이 어노테이션을 지정하면 tier0로 컴파일하지 않는다.

        [MethodImpl(MethodImplOptions.AggressiveOptimization | MethodImplOptions.NoInlining)]
        public static void M1()
        {
            Interlocked.Increment(ref Test);
        }

혹은, 그냥 전역적으로 설정할 수도 있다.
이러면 그냥 TieredCompilation를 사용하지 않고 레거시 모드로 실행된다.
그러니까, tier0 없이 바로 최적화된 코드(tier1)로 실행하는 버전인 것이다.

<TieredCompilation>false</TieredCompilation>

참조
https://learn.microsoft.com/ko-kr/visualstudio/debugger/jit-optimization-and-debugging?view=vs-2022
https://github.com/dotnet/runtime/blob/main/docs/design/features/tiered-compilation.md
https://learn.microsoft.com/ko-kr/dotnet/core/whats-new/dotnet-core-3-0#tiered-compilation