[Vector Search] Vector의 종류

벡터 검색(Vector search)과 맞닿아있는 내용이다.
https://blog.naver.com/sssang97/223790220320

검색에 사용하는 벡터 형태는 한가지만 있는게 아니다. 대표적인 것만 종류별로 정리해보겠다.

Dense Vector

가장 일반적인 형태의 벡터다. 보통 벡터 검색을 한다고 하면 이게 기본값이다.

길이가 고정된 형태의 부동소수점 배열이며, 각 요소는 -1~1 범위값이 들어간다.

[
    -0.013052909,
    0.020387933,
    -0.007869,
    -0.11111383,
    -0.030188112,
    -0.0053388323,
    0.0010654867,
    0.072027855,
    -0.04167721,
    0.014839341,
    -0.032948174,
    -0.062975034,
    -0.024837125,
    ....
]

사실 특별할 것은 없지만, 여기서 좀 중요한 것은 0인 값이 거의 없어야 한다는 것이다.

Sparse Vector

그렇게 자주 쓰이는건 아니지만, 종종 쓰이긴 한다.

이것도 사실 dense vector와 크게 다르지는 않다. 동일하게 -1~1 범위의 실수가 들어가는 실수 배열이다.
dense vector와 다른 유일한 지점은, 대부분의 요소가 0이고 실제 값이 적게 들어있다는 것이다.

이게 벡터 인덱스 구현에 있어서는 최적화 방식이 좀 달라지는 부분이라서, Vector DB들에서는 이걸 예외적으로 처리를 하는 경우가 많다.
그리고 쓸데없는 0 값을 다 넣어서 전달받지도 않고, 실제로 값이 있는 지점의 인덱스와 값을 명시적으로 전달받는 식으로 처리를 하곤 한다.

이런 식으로 말이다.

// A sparse vector with 4 non-zero elements
{
    "indexes": [1, 3, 5, 7],
    "values": [0.1, 0.2, 0.3, 0.4]
}

참조
https://medium.com/@zilliz_learn/similarity-metrics-for-vector-search-62ccda6cfdd8