[AI 서비스 개발] LLM 프레임워크 Langchain

1. API연결

# API 연결
import os
os.environ["OPENAI_API_KEY"] = "sk로 시작하는 자기 API Key 입력"

 

 

2. llm에 입력할 템플릿 작성

# 템플릿 작성
from langchain import PromptTemplate

template = "서울에서 프렌차이즈점이 아닌 유명한 {food} 맛집 세 곳 추천해줘"

prompt = PromptTemplate(
    input_variables=["food"],
    template=template
)

 

3. llm 생성

# 모델 생성
from langchain.chat_models import ChatOpenAI
llm = ChatOpenAI(temperature=0, model='gpt-4')

 

4. 모델에 전달 및 예측 결과 반환(predict)

# 모델에 전달할 프롬프트 작성
formatted_prompt = prompt.format(food="떡볶이")
# '서울에서 프렌차이즈점이 아닌 유명한 떡볶이 맛집 세 곳 추천해줘'

# 모델에 전달
llm.predict(formatted_prompt)
# 1. '신도림 떡볶이' - 서울 구로구에 위치한 이곳은 1983년부터 운영되고 있는 떡볶이 전문점입니다. 특히, 떡볶이에 들어가는 고추장을 직접 만들어 사용하며, 떡은 매일 아침 신선하게 준비한다고 합니다. 
# 2. '마포만두' - 서울 마포구에 위치한 이곳은 떡볶이와 만두를 함께 즐길 수 있는 곳으로 유명합니다. 특히, 떡볶이는 매콤한 맛과 달콤한 맛을 동시에 느낄 수 있어 많은 사랑을 받고 있습니다.
# 3. '영철버거' - 서울 동대문구에 위치한 이곳은 떡볶이와 함께 햄버거를 즐길 수 있는 곳으로 유명합니다. 떡볶이는 매콤하면서도 달콤한 맛이 특징이며, 햄버거와 함께 먹으면 더욱 맛있다고 합니다.

 

5. 다른방법(chain)

# chain 생성 후 전달
from langchain.chains import LLMChain
chain = LLMChain(llm=llm, prompt=prompt, output_key="stores")
chain.run("떡볶이")

 

6. 2개 이상의 LLM 연결

# 두번째 프롬프트 및 체인 생성
prompt2 = PromptTemplate.from_template(
    "다음 중 떡볶이 전문점만 추천해주세요 \n\n{stores}"
)

chain2 = LLMChain(llm=llm, prompt=prompt2, output_key="result")

# 1,2 체인
from langchain.chains import SequentialChain
all_chain = SequentialChain(
    chains = [chain, chain2],
    input_variables=['food'],
    output_variables=['stores','result']
)

all_chain("떡볶이")

# {'food': '떡볶이',
# 'stores': "1. '신도림 떡볶이' - 서울 구로구에 위치한 이곳은 1983년부터 운영되고 있는 떡볶이 전문점입니다. 특히, 떡볶이에 고기를 넣어 함께 볶아내는 독특한 방식으로 유명합니다.\n\n2. '마포만두' - 서울 마포구에 위치한 이곳은 떡볶이와 만두를 함께 즐길 수 있는 곳으로 유명합니다. 특히, 떡볶이는 매콤하면서도 달달한 맛이 특징입니다.\n\n3. '영철버거' - 서울 동대문구에 위치한 이곳은 떡볶이와 함께 햄버거를 즐길 수 있는 곳으로 유명합니다. 떡볶이는 매콤한 맛과 부드러운 식감이 특징이며, 햄버거와 함께 먹으면 더욱 맛있습니다.",
# 'result': "'신도림 떡볶이'를 추천드립니다. 이곳은 1983년부터 운영되고 있는 떡볶이 전문점으로, 떡볶이에 고기를 넣어 함께 볶아내는 독특한 방식으로 유명합니다."}

 

 

※ 참고자료: 랭체인으로 LLM 기반의 AI 서비스 개발하기