랭체인 CH.1 랭체인 기초


랭체인 기초

랭체인이란

  • LLM을 사용하는 어플리케이션 개발을 위한 오픈소스 프레임워크
  • LLM 추상화를 통해 LLM어플리케이션 개발을 간소화해줌
    • 컴퓨터를 쓴다고 작동 원리를 꼭 알아야 하는게 아니듯 언어 모델에 대한 이해가 떨어져도 언어 모델을 써서 개발을 하게 해줌

랭체인 구성 요소

  • LLM 추상화
    • 위의 설명 그대로 언어 모델에 대한 이해가 떨어져도 모델을 쓸 수 있게 해줌
    • 개인적으로 랭체인의 핵심이라 생각함
      • 언어모델을 프레임워크처럼 쓸 수 있게 해줌
  • 프롬프트
    • 모델에 태스크 수행하라고 전달하는 명령문
    • 랭체인에는 프롬프트 탬플릿 클래스가 있다
      • 이를 통해 컨텍스트와 쿼리를 수동으로 작성하지 않아도 됨
  • 체인
    • 말 그대로 연결고리를 만듬
    • 데이터 검색, 검색된 데이터 모델에 이동, 출력 등의 과정을 체인처럼 이어 붙임
  • 인덱스
    • 특정 외부 데이터
    • 지속적으로 업데이트 되는 경우엔 모델 파인튜닝보다 RAG를 활용하는 것이 더 좋은 선택이 될 수 있음
    • 또한 파인튜닝의 경우 비용이 큼
    • 이런 인덱스를 잘 활용한다면 좋은 대안이 될 수 있다