How to build QA Chatbot for Discord (Korean)

Discord용 QA Chatbot 만들기

보기 편한 Notion 링크

개요

  • AINFT Builder Discord App을 이용해 나만의 QA Chatbot을 만들어 봅니다
  • Prompt Dialog 기반으로 Customize된 AI Model을 만들어 봅니다
  • Discord Bot을 활용해 봅니다

오늘 튜토리얼 세션에서 진행 할 내용

  1. 나만의 Discord 서버를 만들어본다
  2. AINFT Bot Builder를 이용해 Discord용 QA Chatbot을 만들어 본다
  3. 만들어진 Discord bot을 사용해본다 (bot에서 사용 할 수 있는 다양한 command 들)
  4. AI QA Chatbot과 NFT와의 관계를 고민해본다

준비물

1. 내 Discord 서버 만들기

(admin 권한이 필요해서 직접 만들어야 합니다)

  1. 서버 추가하기를 눌러서 서버 생성

    스크린샷 2022-03-21 오후 10.09.49.png

  2. 직접 만들기 선택

    스크린샷 2022-05-24 오후 3.43.58.png

  3. 나와 친구들의 위한 서버 선택

    스크린샷 2022-05-24 오후 3.44.18.png

  4. 적당한 서버 이름을 넣기 (ex. QA Chatbot)

    스크린샷 2022-05-24 오후 3.44.47.png

  5. 완성!

    스크린샷 2022-05-24 오후 3.45.01.png

2. AINFT Builder App 추가하기

  1. 링크 클릭 - https://discord.com/oauth2/authorize?client_id=963621297705848932&permissions=397553171568&scope=bot%20applications.commands

  2. ainft-builder bot에 권한 주기 (서버 목록에서 위에서 만드신 서버를 선택해 주세요)

    스크린샷 2022-05-24 오후 4.01.54.png

  3. 서버에 ainft-builder-bot 봇 유저 추가와 ainft-bot-factory 채널이 생겼는지 체크

    스크린샷 2022-05-24 오후 6.07.54.png

3. QA Chatbot 만들기

  1. #ainft-bot-factory 채널에서 /ainft init qa_chatbot_1 입력

    스크린샷 2022-05-24 오후 6.09.31.png

  2. 원하는 AI Model 선택

    • 선택 가능한 모델은 [GPT-J 6B (Eng)](https://huggingface.co/EleutherAI/gpt-j-6B)[KoGPT 6B (Kor)](https://huggingface.co/kakaobrain/kogpt) 2가지가 있습니다. GPT-J 6B는 EleutherAI가 공개한 영어 기반 모델이며, KoGPT 6B의 경우 KakaoBrain이 공개한 한국어 기반 모델 입니다. (GPT-J에 대한 자세한 정보는 다음 link를 통해 확인하세요.)

    스크린샷 2022-05-24 오후 6.10.59.png

  3. Chatbot이 활동할 채널 선택

    스크린샷 2022-05-24 오후 6.11.58.png

  4. Q&A Dialog 3개 완성하기 (질문과 답변 3쌍)

    스크린샷 2022-05-24 오후 6.13.53.png

    • 질문과 답변은 Few-shot learning을 통해 챗봇에 Identity를 주는데 사용됩니다
  5. 완성!

    스크린샷 2022-05-24 오후 6.15.10.png

4. QA Chatbot 사용하기

  • 3-3에서 선택한 채널에 가서 메세지를 보내면, Chatbot이 응답합니다.
  • 만든 chatbot이 배포되는데 시간이 좀 걸립니다. 아래처럼 chatbot이 주는 응답을 통해 진행 상태를 알 수 있습니다.
    스크린샷 2022-05-24 오후 6.30.34.png
  • Dialog가 많지 않아서 엄청 똑똑하진 않지만, 그렇다고 엄청 멍청하지도 않습니다.
    • input
      스크린샷 2022-05-24 오후 6.33.12.png
    • output
      스크린샷 2022-05-24 오후 6.34.39.png

5. 이것저것 해보기

  • 다른 명령어들도 확인해 보세요
    스크린샷 2022-05-24 오후 8.15.13.png

Discord용 QA Chatbot의 구조도

스크린샷 2022-05-24 오후 9.43.25.png