프로젝트 리뷰 1

금융 서비스 고객상담 챗봇

• 이번 프로젝트에 외국인 노동자 대상 P2P 대출 플랫폼을 제작했다.
• 내가 맡은 역할은 이 서비스의 고객상담용 챗봇을 제작하는 것.

챗봇 구현 이유

• 고객상담용 챗봇을 구현
• 챗봇을 사용하면 언제, 어디서나 손쉽게 필요한 정보를 얻을 수 있다.
  • 고객의 UX 개선이 가능하다고 판단.

필요한 기능

• 다국어 지원
  • 외국인 노동자를 타겟으로 잡았기 때문에 다국어 지원이 가능해야한다.
• 대화 내용 저장(메모리)
  • 대화 내용을 저장하는 것이 이득이라고 판단
    • 맥락에 맞게 대화를 이어나가는 것이 고객이 더 편리할 것이라 생각함.
    • 또한 저장된 대화를 추후 튜닝, 분석용 데이터로 사용하게 하기 위해 저장하는 것이 맞다고 생각.
• 서비스 사용 메뉴얼 안내
  • 고객이 서비스 사용법에 대해 물어봤을 때 제대로 대답해야함.
• 금융 어휘 안내
  • 금융 어휘는 한국인도 잘 모르는 경우가 많음
  • 이에 제대로 된 어휘를 알려줘서 문제를 사전에 방지할 수 있게 함.
• 간이대출심사
  • 고객의 UX개선을 위해 필요한 기능
  • 고객의 일부 정보를 가지고 대출 가능 여부를 확인할 수 있게 해줌
  • 이는 내 토익점수 예측하기와 비슷한 방식
    • 실제와 다를 수 있다는 것을 사전에 공지

챗봇 개발 흐름(큰그림)

• LLM을 사용
  • 다국어 지원이 가능해야 하고, 챗봇이 특정 상황에만 쓰이는 것으로 생각하지 않았기 때문.
    • UX를 고려해 결정
• 서비스 사용 메뉴얼 및 금융 어휘 안내는 RAG를 사용하여 구현
  • 파인튜닝으로 했을 땐 정보 업데이트에 대응하기 힘들고, 할루시네이션 문제에 제대로 대응하기 힘들어짐.
• 간이대출심사는 function calling을 사용
  • 간이대출심사에 쓰이는 모델은 따로 제작
• 로그인한 고객용 챗봇과 로그인하지 않은 고객 챗봇을 분리
  • 로그인하지 않은 고객 챗봇은 기본적인 기능(사용 메뉴얼, 금융어휘 질의응답)만 사용
  • 로그인하면 저장된 대화 내용 바탕으로 대화, 간이대출심사 기능 추가
  • 이렇게 하면 고객 유인에 도움이 될 것이라 생각.

챗봇 코드