function-call

오해가 많음..

openai에서 결과를 받는것이 아님

기존 질문 : "{country}의 수도가 어디야?" 라고 물으면 서울이라는 답변이 오는데

function calling을 하면 "나는 한국의 수도가 어디인지 알고싶어?" 라고 물으면

get_city(country) 라는 함수가 잇다고하면 "함수 get_city를 실행하고 argument 로 한국을 넣어라." 라고 알려주는것. 실제로 함수를 실행하는것도 아님.

그러니 실제로 openai에서 결과를 받는것이 아님

결과는 get_city에서 처리해야함.

from dotenv import load_dotenv
load_dotenv()

from langchain.prompts import PromptTemplate
from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
  temperature=0.1,
)

template = "{country}의 수도는 뭐야?"


# 템플릿 완성
prompt = PromptTemplate.from_template(template=template)
prompt

chain = prompt | llm

chain.invoke({"country":"한국"})

add function

def get_city(country):
    print(country)

add schema

schema = {
  "name": "get_city",
  "description": "나라의 수도를 가져옵니다.",
  "parameters": {
    "type": "object",
    "properties": {
      "country": { "type": "string","description": "나라 이름" }
    }
  },
  "required": ["country"],
}

llm = ChatOpenAI(
    temperature=0.1,
).bind(
  function_call={
      "name": "get_city",
  },
  functions=[
      schema,
  ],
)

template = "{country}의 수도는 뭐야?"


# 템플릿 완성
prompt = PromptTemplate.from_template(template=template)
prompt
chain = prompt | llm
chain.invoke({"country": "한국"})

AIMessage(content='', additional_kwargs={'function_call': {'arguments': '{"country":"한국"}', 'name': 'get_city'}}, )

response = chain.invoke({"country": "한국"})

arg_from_ai = response.additional_kwargs["function_call"]
arg_from_ai

arg_from_ai["arguments"]
arg_from_ai["name"]

import json

arguments = json.loads(arg_from_ai["arguments"])
country = arguments["country"]
country

if arg_from_ai["name"] == "get_city":
    get_city(country)