랭체인 기초
랭체인이란
- LLM을 사용하는 어플리케이션 개발을 위한 오픈소스 프레임워크
- LLM 추상화를 통해 LLM어플리케이션 개발을 간소화해줌
- 컴퓨터를 쓴다고 작동 원리를 꼭 알아야 하는게 아니듯 언어 모델에 대한 이해가 떨어져도 언어 모델을 써서 개발을 하게 해줌
랭체인 구성 요소
- LLM 추상화
- 위의 설명 그대로 언어 모델에 대한 이해가 떨어져도 모델을 쓸 수 있게 해줌
- 개인적으로 랭체인의 핵심이라 생각함
- 프롬프트
- 모델에 태스크 수행하라고 전달하는 명령문
- 랭체인에는 프롬프트 탬플릿 클래스가 있다
- 이를 통해 컨텍스트와 쿼리를 수동으로 작성하지 않아도 됨
- 체인
- 말 그대로 연결고리를 만듬
- 데이터 검색, 검색된 데이터 모델에 이동, 출력 등의 과정을 체인처럼 이어 붙임
- 인덱스
- 특정 외부 데이터
- 지속적으로 업데이트 되는 경우엔 모델 파인튜닝보다 RAG를 활용하는 것이 더 좋은 선택이 될 수 있음
- 또한 파인튜닝의 경우 비용이 큼
- 이런 인덱스를 잘 활용한다면 좋은 대안이 될 수 있다
August 12, 2024