다음의 모듈들을 설치하고 시작했다.

pip install langchain openai tiktoken gradio

다음으로 OpenAI API 인증키 등, LLM을 이용할 API 인증키가 필요하다.

연습에 사용해볼 무료 LLM으로는 LLama나 Falcon등을 지피티가 추천해줬다.

허깅페이스를 이용해보려고 한다… 허깅페이스 회원가입을 하니 허깅페이스 허브 사용법을 알려준다. 그냥 기록삼아 남긴다.

• 허깅페이스 허브

<aside> 💡

이하는 GPT와 함께 langChain과 LLaMa를 이용해 RAG가 적용되어 입력한 장소의 숙소를 찾아주는 에이전트를 만드는 연습 기록임.

</aside>

필요한 모듈

1. falcon: LLM
2. LangChain: RAG 구축 프레임워크
3. FAISS: 벡터 데이터베이스, 숙소 정보를 검색하기 위한 검색 엔진
4. 데이터: 숙소 정보가 담긴 DB

먼저 라이브러리를 설치한다.

pip install langchain transformers sentence-transformers faiss-cpu