SIMD 최적화

#최적화

SIMD는 Single Instruction Mutliple Data의 준말로, 근래에 주목받는 최적화 기법 중 하나다.

Loop Vectorization이라고도 부른다.

모든 어셈블리 체계에서 다 동작하진 않고, 메이저한 주요 아키텍쳐에서만 지원된다.
x86_64의 인텔과 AMD는 대부분 지원하고, Arm에서도 Neon이라는 이름으로 지원한다.
Arm의 경우에는 마이크로 프로세서에는 없고, 일반적인 데스크톱 레벨에서만 지원된다.

어떨때 쓰기 좋은가?

사실 일반적인 사용례에서는 그렇게 아주 눈에 띄는 성능향상을 보이지는 않는다.

가장 효과가 좋은 부분은 벡터연산을 할 때다. 그러니까, 3D 작업을 할때 좋다는 것이다.

이럴때는 10배가 넘는 성능향상을 보여주기도 한다고 한다.

복수의 연산을 병렬로 한번에 처리하자는 것이다.
그래서 복수 데이터에 대한 단일 명령어(Single Instruction Mutliple Data)인 것이다.

가령 a+b, c+d, e+f, g+h등의 연산을 처리하게 한다면, 일반적인 cpu구조에서는 a+b를 먼저 연산하고, 그다음에 c+d, e+f를 연산하고, 마지막으로 g+h를 연산하게 할 것이다.

파이프라이닝 최적화를 통한다면 이게 훨씬 빨라질 수는 있지만, 그래도 한 코어가 한번에 하나의 명령씩만 처리하는 것은 변함이 없다.

그런데, 인텔에서 만든 SSE(Streaming SIMD Extensions)라는 명령어 확장 집합이 있다.
여기서는 명령어의 최대 크기가 16바이트다.

이걸 사용하면 놀랍게도 16바이트 내에 여러개의 데이터를 쑤셔넣고 한번에 연산을 돌릴 수가 있다.

4바이트 정수 4개나, 8바이트 실수 2개를 16바이트 공간에 집어넣고, SIMD용 인스트럭션을 사용하면 되는 것이다!
그럼 저 목록을 한번에 더하거나, 곱할 수 있다.

언어에 따라 좀 다르다.
대체로는 라이브러리를 사용하는게 마음이 편할 것이다.

Rust에서는 아직 unstable한 기능이지만, simd 연산기능을 표준 라이브러리에서 제공한다.
그래서 다음과 같이 사용할 수 있다.

꽤나 깔끔하다. 신경쓸 것도 적고.

c/c++ 환경에서는 컴파일러마다 다르다.
MSVC의 경우 컴파일러 내장함수(intrinsic)을 통해서 구현이 가능하다.
GCC의 경우엔 컴파일 옵션을 추가로 줘서 처리할 수 있다.

그리고 둘다 최적화를 위해 메모리 정렬(alignment)이라는 것이 필요하다. 배열의 요소들이 순서대로 배치되게 하는 것이다.
이것도 컴파일러 키워드를 통해 처리하면 된다.