[Python/LangChain] 세션관리

Session 상태 관리

LangChain을 장시간 실행하면 세션 상태나 캐싱 문제로 인해 Retrieval 데이터가 업데이트되지 않거나, 이전 데이터를 참조하는 문제가 발생할 수 있습니다.

 

해결 방법

1. Session Refresh
특정 간격마다 Retriever 또는 Chain 객체를 재생성하세요:

retriever = vector_store.as_retriever()
qa_chain = RetrievalQA.from_chain_type(
    llm=llm,
    retriever=retriever
)

 

2. Cache 비활성화
LangChain이나 OpenAI API의 캐싱이 활성화되어 이전 응답이 반복될 수 있습니다. 

캐싱을 비활성화하거나 적절히 관리하세요:

import os
os.environ["LANGCHAIN_HANDLER_CACHE"] = "false"