[AWS] Amazon Q

AWS에서 AI 붐에 편승해서 자체적으로 제공하는 AI 챗봇 서비스다.

chatGPT처럼 완성된 형태로 제공되는건 아니고, 직접 학습 데이터를 좀 넣어줘야 한다.
기업내에서 필요한 업무 관련 데이터만 쑤셔넣어서 private하게 쓸 수 있는 버전의 chatGPT라고 보면 된다.

비용

https://aws.amazon.com/ko/q/pricing/
지금은 프리뷰 기간이라 비용을 받진 않는데, 월 정액제 기반으로 운영할 생각인 것 같다.

유저당 20달러? 25달러?에 추가 사용요금은 있을지 없을지 모르겠다.
나와봐야 알겠지

한번 직접 써보면서 어떻게 굴러가는 녀석인지 살펴보겠다.

앱 만들기

먼저 사이트에 진입해서

앱 생성페이지로 진입한다.

이름 적당히 짓고, 대충 기본값으로 놔도 된다.

이것도 일단 기본으로 두겠다.

네이티브 리트리버를 써야지 데이터 소스에서 실시간으로 데이터를 가져온다.
아니면 amazon kendra를 통해서 해야하는데, 피곤할 것이다.

데이터소스는 나중에 추가해도 된다.
이걸 통해 소스를 등록하면, 거기서 내용을 학습해서 챗봇이 거기에 기반한 답변을 주게 된다.

그래서 이렇게 생성되면 된 것이다.

챗봇 사용해보기

앱 페이지에서 프리뷰 web experience를 사용하면 바로 챗봇 페이지로 이동할 수 있다.

대충 인사는 알아먹는데

한국어는 못알아먹는다.
50점 감점.

학습되지 않은건 답변을 못해주고

AWS 관련 질문도 답변을 못해준다.
이건 좀 실망이다.

제대로된 답변을 얻기 위해서는 데이터소스를 추가해서 학습을 시켜야한다.

데이터소스 추가하기 (크롤링)

사실 가장 편한 방법은 적당한 사이트 골라서 크롤링을 때리는 것이다.

나는 스택오버플로를 넣어줬다.

role도 적당히 생성해서 넣어주고

크롤링 실행은 수동으로 하도록 했다.
바로 실행되게 하고 싶기 때문이다.

그럼 데이터 소스 페이지가 만들어지고

동기화를 누를 수 있게 된다.

좀 시간이 걸린다.

됐다.

크롤링 로그는 옆에 cloudwatch 로그로 확인해볼 수 있다.

그리고 적당한 질문을 했는데, 모르더라.
크롤링을 전체 다 하지 않아서 그런건가? 스택오버플로 글이 너무 많아서?

그래서 크롤링 로그에 파악된 내용 관련해서 물어보니까 답을 주긴 주더라.
맞는지는 모르겠다.

뭐 이런식으로 쓰면 되는 것 같다.
이걸 돈주고 쓸까? 난 아직 잘 모르겠다.
개발 관련된거면 copliot Chat으로 충분하고, 일상적인건 chatGPT로도 충분했다.
개발 외 분야에서 더 방대한 커스텀을 원한다면 유용할수도...

참조
https://aws.amazon.com/ko/blogs/korea/introducing-amazon-q-a-new-generative-ai-powered-assistant-preview/