LangChain을 활용한 LLM 어플리케이션의 기본적인 개발 흐름

!pip uninstall -y google-generativeai

!pip install langchain==0.3.20 langchain_core==0.3.49 langchain_google_genai==2.1.1 httpx==0.28.1 requests==2.32.3

# prompt 1
message1 = [
        SystemMessage(content= "당신은 한국어를 말하는 우수한 어시스턴트입니다. 회답에는 반드시 한국어로 대답해 주세요. 또 생각하는 과정도 출력해 주세요."),
        HumanMessagePromptTemplate.from_template(
            [
                {
                    "type": "text",
                    "text": "{user_input}"
                },
            ]
        )
    ]

prompt1 = ChatPromptTemplate.from_messages(message1)

# prompt 2
message2 = [
        ("system", "당신은 한국어를 말하는 우수한 어시스턴트입니다. 회답에는 반드시 한국어로 대답해 주세요. 또 생각하는 과정도 출력해 주세요."),
        ("human", "{user_input}"),
    ]

prompt2 = ChatPromptTemplate.from_messages(message2)

model = ChatGoogleGenerativeAI(
    model="gemini-2.0-flash",
    temperature=0
)

# openai 모델
from langchain_openai import ChatOpenAI
os.environ["OPENAI_API_KEY"] = "****"
model = ChatOpenAI(
    model="gpt-4o", #모델
    temperature=0.001, #o1, o3계는 temperature를 지정하지 않는다
    top_p=0.001, #o1, o3 버전은 top_p를 미기입
)

# Azure 모델
from langchain_openai import AzureChatOpenAI
os.environ["AZURE_OPENAI_API_KEY"] = "****"
os.environ["AZURE_OPENAI_ENDPOINT"] = "https://xxxxx.openai.azure.com"
os.environ["OPENAI_API_VERSION"] = "2024-12-01-preview"
model = AzureChatOpenAI(
    azure_deployment="gpt-4o", #모델
    temperature=0.001, #o1, o3 버전은 temperature를 미기입
    top_p=0.001, #o1, o3 버전은 top_p를 미기입
)

# Anthropic 모델
from langchain_anthropic import ChatAnthropic
os.environ["ANTHROPIC_API_KEY"] = "****"
model = ChatAnthropic(
    model="claude-3-5-sonnet-20240620", #모델
    temperature=0.001,
    top_p=0.001,
)

# OpenRouter 모델
from langchain_openai import ChatOpenAI
OPENROUTER_API_KEY = "****"
OPENROUTER_API_ENDPOINT = "https://openrouter.ai/api/v1"
model = ChatOpenAI(
    model="deepseek/deepseek-chat-v3-0324:free", #모델
    openai_api_key=OPENROUTER_API_KEY
    openai_api_base=OPENROUTER_API_ENDPOINT,
    temperature=0.001, #o1, o3 버전은 temperature를 미기입
    top_p=0.001, #o1, o3 버전은 top_p를 미기입
)

#xAI 모델
from langchain_xai import ChatXAI
os.environ["XAI_API_KEY"] = "****"
os.environ["XAI_API_ENDPOINT"] = "https://api.x.ai/v1"
model = ChatXAI(
    model="grok-3-beta", #모델
    temperature=0.001, #o1, o3 버전은 temperature를 미기입
    top_p=0.001, #o1, o3 버전은 top_p를 미기입
)

#ollama 모델
from langchain_ollama import ChatOllama
model = ChatOllama(
    model="gemma3:27b-it-fp16", #모델
    temperature=0.001, #o1, o3 버전은 temperature를 미기입
    top_p=0.001, #o1, o3 버전은 top_p를 미기입
)

llm_prompt1 = prompt1.invoke({"user_input": "한국에서 가장 높은 산에 대해 자세히 알려주세요"})
llm_prompt2 = prompt2.invoke({"user_input": "한국에서 가장 높은 산에 대해 자세히 알려주세요"})

print(llm_prompt1)
print(llm_prompt2)

messages=[SystemMessage(content='당신은 한국어를 말하는 우수한 어시스턴트입니다. 회답에는 반드시 한국어로 대답해 주세요. 또 생각하는 과정도 출력해 주세요.', additional_kwargs={}, response_metadata={}), HumanMessage(content=[{'type': 'text', 'text': '한국에서 가장 높은 산에 대해 자세히 알려주세요'}], additional_kwargs={}, response_metadata={})]
messages=[SystemMessage(content='당신은 한국어를 말하는 우수한 어시스턴트입니다. 회답에는 반드시 한국어로 대답해 주세요. 또 생각하는 과정도 출력해 주세요.', additional_kwargs={}, response_metadata={}), HumanMessage(content='한국에서 가장 높은 산에 대해 자세히 알려주세요', additional_kwargs={}, response_metadata={})]

response1 = model.invoke(llm_prompt1)
response2 = model.invoke(llm_prompt2)

# 반환값 확인
print("################### model output ###################")
print(response1)
print(response2)
print("################ model output text #################")
print(response1.content)
# stream 출력
print("############### model output stream ################")
for chunk in model.stream(llm_prompt2):
    print(chunk.content, end="", flush=True)

################### model output ###################
content='알겠습니다. 한국에서 가장 높은 산에 대해 자세히 알려드리겠습니다.\n\n**1. 산 이름 및 위치:**\n\n*   **산 이름:** 한라산 (Hallasan)\n* .....' additional_kwargs={} response_metadata={'prompt_feedback': {'block_reason': 0, 'safety_ratings': []}, 'finish_reason': 'STOP', 'safety_ratings': []} id='run-d9984069-b51c-48a4-908f-c8d27c84250d-0' usage_metadata={'input_tokens': 59, 'output_tokens': 1099, 'total_tokens': 1158, 'input_token_details': {'cache_read': 0}}
content="알겠습니다. 한국에서 가장 높은 산에 대해 자세히 알려드리겠습니다.\n\n**1. 산 이름 및 위치:**\n\n*   **산 이름:** 한라산 (Hallasan)\n* ....." additional_kwargs={} response_metadata={'prompt_feedback': {'block_reason': 0, 'safety_ratings': []}, 'finish_reason': 'STOP', 'safety_ratings': []} id='run-13b44f2d-96a9-4cca-a277-a51e1b7b655a-0' usage_metadata={'input_tokens': 59, 'output_tokens': 1092, 'total_tokens': 1151, 'input_token_details': {'cache_read': 0}}
################ model output text #################
알겠습니다. 한국에서 가장 높은 산에 대해 자세히 알려드리겠습니다.

**1. 산 이름 및 위치:**

*   **산 이름:** 한라산 (Hallasan)
*   **위치:** 대한민국 제주특별자치도 제주도 중앙부

**2. 높이:**

*   **해발:** 1,950m (대한민국에서 가장 높은 산)

.....

**생각 과정:**

1.  **질문 이해:** 질문은 "한국에서 가장 높은 산에 대해 자세히 알려주세요"입니다.
2.  **정보 수집:** 한국에서 가장 높은 산은 한라산이라는 것을 알고 있습니다. 한라산에 대한 다양한 정보를 떠올립니다 (위치, 높이, 지질, 생태, 역사, 등반 정보 등).
3.  **정보 구성:** 수집된 정보를 바탕으로 답변을 구성합니다. 답변은 다음과 같은 구조로 작성합니다.
    *   산 이름 및 위치
    *   높이
    *   지질학적 특징
    *   생태학적 특징
    *   역사 및 문화
    *   등반 정보
    *   기타
4.  **답변 작성:** 구성된 구조에 따라 정보를 채워 답변을 작성합니다.
5.  **검토 및 수정:** 답변을 검토하여 오류나 부족한 부분을 수정합니다.

이 정보가 도움이 되었기를 바랍니다. 더 궁금한 점이 있으시면 언제든지 질문해주세요.
############### model output stream ################
알겠습니다. 한국에서 가장 높은 산에 대해 자세히 알려드리겠습니다.**1. 산 이름 및 위치:**

*   **산 이름:** 한라산 (Hallasan)
*   **위치:** 대한민국 제주특별자치도 제주도 중앙부

**2. 높이:**

*   **해발:** 1,950m (대한민국에서 가장 높은 산)

.....

**생각 과정:**

1.  **질문 이해:** 한국에서 가장 높은 산에 대한 자세한 정보를 요청하는 질문임을 파악했습니다.
2.  **정보 수집:** 한라산의 이름, 위치, 높이, 지질학적 특징, 생태학적 특징, 역사 및 문화, 등반 정보 등 다양한 측면에서 정보를 수집했습니다.
3.  **정보 구성:** 수집한 정보를 체계적으로 정리하여 답변을 구성했습니다.
4.  **한국어 표현:** 한국어 어휘와 문법을 사용하여 자연스럽고 정확하게 답변을 작성했습니다.
5.  **추가 정보:** 한라산의 사계절 경관과 제주도 방문 시 추천하는 이유를 추가하여 답변의 완성도를 높였습니다.

이 정보가 도움이 되었기를 바랍니다. 더 궁금한 점이 있으시면 언제든지 질문해주세요.