[C++] Sanitizer (with GCC)

C++은 사방이 지뢰밭으로 가득차있는 시한폭탄 같은 언어고, 그 자체로는 안정성이 필요한 프로덕션 운영에 있어 여러모로 불리한 점이 많다.

근데 문제만 있다면 그걸 계속 썼겠는가? 그래도 이런 문제들을 좀 보완해줄 보조 수단들이 제법 있으니까 쓰는 것이다. 그 오류 감지 도구들을 Sanitizer라고 부른다.

Sanitizer의 종류는 여러가지가 있고, 컴파일러 지원부터 서드파티 지원까지 이것저것 많은 편이다.
그 중에서도 GCC/Clang에 포함된 구현체들이 가장 널리 사용되는 Sanitizer다.

여기서는 GCC에서 지원되는 Sanitizer의 종류와, 그 간략한 사용방법 정도를 정리해보겠다.
GCC의 Sanitizer는 런타임에 문제 추적을 위한 코드를 심고, 코드 실행 중에 문제를 감지하는 방식을 사용한다.

메모리 및 실행성능을 포함한 성능 저하가 꽤 있어서 최종 프로덕션 빌드에는 사용이 권장되지 않는다.

자주 사용되는 주요 Sanitizer의 목록은 다음과 같다.

• AddressSanitizer

• UndefinedBehaviorSanitizer

• ThreadSanitizer

하나씩 간단히 다뤄보겠다.

1. Address Sanitizer

Address Sanitizer는 메모리 할당, 주소 관리에 대한 문제를 추적하는 Sanitizer다. 가장 중요도가 높고 사용 빈도도 높은 축에 속한다.

이건 다음과 같은 기능들을 제공한다.

1. 메모리 누수 감지

2. 할당해제된 메모리 사용 감지 (use after free)

3. 중복 할당해제

4. 해제된 스택 변수에 대한 포인터 return 감지 (use after return)

5. 위험한 배열 overflow 접근들

예를 들어, 다음과 같이 메모리 누수 문제가 있는 코드가 있다고 해보자.

#include <iostream>

void memory_leak()
{
    int *ptr = new int[100];
    // 버그: delete를 하지 않음
}

int main()
{
    for (int i = 0; i < 10; i++)
    {
        memory_leak();
    }
    return 0;
}

이건 당연히 누수가 나든 말든 실행이 잘 된다. 하지만 실제 시스템에서는 용납할 수 없는 치명적인 버그에 속한다.
C++은 당연히 언어 수준에서 이런 문제에 대한 방어책을 제공하지 않으므로, 우리가 알아서 잘 잡아야 한다.

저기에 sanitizer를 넣어서 실행해보겠다. 다음과 같이 -fsanitize 플래그를 집어넣고, 실행까지 해보면 된다.

g++ -fsanitize=address -g main.cpp -o main.exe && ./main.exe

그러면 누수가 감지되었을때 즉시 문제 보고를 해줄 것이다. 누수를 잡았다.

해제된 메모리에 대한 접근(use after free)에 대한 문제도 잡고

#include <iostream>

int main()
{
    int *ptr = new int(100);

    delete ptr;

    // 버그: 이미 해제된 메모리에 접근
    *ptr = 200;                     // ❌
    std::cout << *ptr << std::endl; // ❌

    return 0;
}

free를 2번 때리는 것도 잡는다.

#include <iostream>

int main()
{
    int *ptr = new int(42);

    delete ptr;
    // 버그: 같은 포인터를 두 번 해제
    delete ptr; // ❌

    return 0;
}

할당해제되는 스택 변수를 포인터로 반환하는 것도 잡는다. lifetime 문제다.

#include <iostream>

int *dangerous_function()
{
    int local_var = 42;

    // 버그: 지역 변수의 주소 반환
    return &local_var; // 함수 종료 후 무효화됨
}

int main()
{
    int *ptr = dangerous_function();
    std::cout << *ptr << std::endl; // ❌
    return 0;
}

잘 잡아줬다.

다음은 배열에 대한 overflow 접근 예제다.

#include <iostream>

int main()
{
    int *arr = new int[10];

    // 버그: 배열 범위를 벗어난 접근
    arr[10] = 42; // ❌ index 0-9만 유효

    std::cout << arr[10] << std::endl;

    delete[] arr;
    return 0;
}

마찬가지로 접근 지점을 오류로 잘 잡아준다.

2. UndefinedBehaviorSanitizer

말 그대로 UB를 잡아주는 Sanitizer다.
C/C++은 언어 명세에서 정의되지 않은, 소리 없는 버그들을 유발하는 부분들이 많다. 컴파일러나 플랫폼마다 동작이 다른 그런 문제들 말이다.

여기서 잡아주는 UB에는 다음과 같은 것들이 있다. 굉장히 많아서 일부만 적었다.

1. 정수 오버플로

2. 0으로 나누기

3. 널포인터 참조

4. 음수 Shift 연산

5. 잘못된 타입 캐스팅 등등...

사용법은 간단하다. 컴파일할 때 -fsanitize=undefined 옵션을 넣고 실행하면 된다.

g++ -fsanitize=undefined -g main.cpp -o main.exe && ./main.exe

그러면 다음과 같이 위험한 코드가 있다면

#include <iostream>

struct Data
{
    int value;
    void print()
    {
        std::cout << value << std::endl;
    }
};

int main()
{
    Data *ptr = nullptr;

    // 버그: null 포인터 역참조
    ptr->print(); // ❌

    return 0;
}

마찬가지로 0으로 나누는 것도 UB에 속한다.

#include <iostream>

int divide(int a, int b)
{
    // 버그: 0으로 나누기
    return a / b;
}

int main()
{
    int result = divide(10, 0);
    std::cout << result << std::endl;
    return 0;
}

이렇게 바로 잡아준다.

3. ThreadSanitizer

ThreadSanitizer는 멀티스레드 환경에서 발생할 수 있는 동시성 버그들을 감지하는 도구다.
Data race, Deadlock 등의 주요 동시성 버그들이 감지되면 오류를 던진다.

예를 들어 다음 코드는 data race가 발생해서 의도한 결과가 나오지는 않지만, 오류가 뜨지는 않는 코드다.

#include <iostream>
#include <thread>

int shared_counter = 0; // 공유 변수

void increment()
{
    for (int i = 0; i < 100000; i++)
    {
        // 버그: 동기화 없이 공유 변수 접근
        shared_counter++; // ❌ data race
    }
}

int main()
{
    std::thread t1(increment);
    std::thread t2(increment);

    t1.join();
    t2.join();

    std::cout << "Counter: " << shared_counter << std::endl;
    std::cout << "Expected: 200000" << std::endl;

    return 0;
}

thread 플래그를 넣어서 실행하면 thread sanitizer가 들어가서 이런 동시성 버그 패턴을 잡아준다.

g++ -fsanitize=thread -g main.cpp -o main.exe && ./main.exe

데드락도 간단한 경우에는 잡아주기도 하는데, 완전하진 않다.

참조
https://github.com/google/sanitizers/wiki
https://github.com/google/sanitizers/wiki/AddressSanitizer
https://github.com/google/sanitizers/wiki/ThreadSanitizerFlags