[GCP] Compute Engine: TPU

TPU는 GCP에서 제공하는 머신러닝 컴퓨팅 환경이다.
ML에 한해서는 일반 GPU 환경보다 훨씬 효율적이고 빠르다고 주장한다. 실제로도 꽤 빠르다.

그럼에도 주도적으로 쓰이지 않는 이유는 이미 환경이 엔비디아 GPU를 기반으로 쌓여있기 때문이다.
그래서 용도가 애매하긴 하지만, 구글에서 제공하는 모델만을 쓸거라면 좋은 선택이 될 수 있다.

비용

TPU가 일반 GPU에 비해 효율적이라고는 하나, 그래도 고성능 컴퓨팅을 제공하는 서비스라 비싸긴 하다.
https://cloud.google.com/tpu/pricing?hl=ko

온디맨드와 프로비저닝 비용이 따로 존재한다.

나는 주문형으로 잠깐 쓰려고 한다.
리전별로, 버전별로 가격이 엄청나게 차이가 난다.

사용해보기

먼저 API를 활성화해줘야 콘솔에 진입 가능하다.

켜주고

"노드 만들기"로 이동

리전, 타입, 버전 등을 적절히 고른다. 당장 성능을 심각하게 고려할 상황이 아니라면 그냥 싼거로 쓰면 된다.
한국 기준으로 v2 타입은 1시간당 5달러 정도 나간다. 놀랍게도 이게 싼 편에 속하는 타입이다.

그러고 적당히 생성하면 되는데

문제는. GCP 이놈들이 리소스관리를 더럽게 못하고 있다는 것이다.
어떤 리전은 장비가 딸려서 노드 생성이 안되고, 어떤 리전은 된다. 장난하나?

미국 중부 c 리전으로 하니까 생성이 되더라.

만들고나면 이런 식으로 노드가 활성화되는데

이후부터는 일반 compute engine과 사용법은 거의 동등하다.

브라우저 모드로 접속해서 들어갈 수 있고

그냥 우분투 기반으로 머신이 제공된다.

여기부터는 쓰고싶은대로 쓰면 된다.