1. 실습환경 준비 및 검색기 초기화

• 설명: RAG(검색 기반 생성) 기법을 사용하기 위해 검색기와 LLM 환경을 초기화합니다. OpenAI API 또는 Hugging Face 모델 등을 활용합니다.

• 예시 코드:

  
  from langchain.vectorstores import FAISS
  from langchain.embeddings import OpenAIEmbeddings
  from langchain.chains import RetrievalQA
  
  # 벡터 저장소와 검색기 초기화
  embeddings = OpenAIEmbeddings()
  vector_store = FAISS.create_index(embedding_model=embeddings)
  vector_store.add_texts(["문서 A 내용", "문서 B 내용", "문서 C 내용"])
  
  # RetrievalQA 초기화
  retriever = vector_store.as_retriever()
  qa_chain = RetrievalQA(llm="gpt-4", retriever=retriever)
  
  

활용법: 검색과 생성의 통합 환경 설정, 대화형 검색 시스템 구축.

2. 주요 LLM 공급자 - OpenAI, Anthropic, Google, Ollama, Groq

• 설명:

  • OpenAI: GPT-4 및 GPT-3.5를 제공하며, 텍스트 생성과 검색 최적화에 강점.
  • Anthropic: Claude 모델 제공, 안전한 AI 대화 환경.
  • Google: PaLM 및 Bard를 통해 자연어 처리와 검색 강화.
  • Ollama: AI 모델 로컬 실행 지원.
  • Groq: 고성능 AI 처리 플랫폼.

• 예시 코드 (OpenAI API 통합):

  
  from langchain.llms import OpenAI
  
  llm = OpenAI(model="gpt-4", api_key="your-api-key")
  response = llm.generate("LangChain 활용법을 설명해주세요.")
  print(response)
  
  

• 활용법: 각 LLM의 장점에 따라 검색 시스템과 맞춤 통합.

3. RAG 답변 평가 (정량적 지표) 1 - 기본 개념

• 설명: RAG의 생성 답변을 평가하기 위해 정량적 지표를 사용. 주요 지표는 Embedding Distance, Rouge, Cross Encoder 등을 포함.
• 활용법: 답변의 유사성, 품질, 정보의 정확성 평가.

4. RAG 답변 평가 (정량적 지표) 2 - Embedding Distance 활용

• 설명: 생성된 답변과 정답 간 임베딩 거리로 유사성을 측정.

• 예시 코드:

  
  from langchain.embeddings import OpenAIEmbeddings
  from sklearn.metrics.pairwise import cosine_similarity
  
  embeddings = OpenAIEmbeddings()
  true_answer_embedding = embeddings.embed_text("정답 문장")
  generated_answer_embedding = embeddings.embed_text("생성된 답변 문장")
  
  similarity = cosine_similarity([true_answer_embedding], [generated_answer_embedding])
  print(f"Embedding Distance Similarity: {similarity[0][0]}")
  
  

• 활용법: 답변의 내용적 유사성 측정.

5. RAG 답변 평가 (정량적 지표) 3 - Cross Encoder 활용