[LLM] Function Call (with Gemini)

Function Call은 OpenAI에서 처음 공개한 LLM 기반 개발 방법론 중 하나다.

LLM을 기반으로 기능을 개발하려고 하다보면, 입력과 출력이 자유로운 문자열이라서 개발에 난항을 겪을 수 있다. Function Call은 이러한 과정을 구조화하기 위해 나온 것이라 할 수 있다.

기본 개념

Function Call의 기본 개념은 별게 없다.
LLM의 요청과 응답을 함수처럼 구조화된 형태로 소통하게 하는 것이다.

Flow는 대략 이렇다.

1. Function Call로 함수들을 정의해서 LLM에 요청하면
2. LLM이 문맥에 맞는 함수를 선택하고, 함수의 정의에 맞춰서 구조화된 형태로 값을 넘겨준다. 이걸 함수와 인자라고 부른다.
3. 이 상태에서 정보가 충분하다면 선택된 함수와 인자값을 사용해서 그대로 쓰고 끝내거나
4. LLM에 함수 기반으로 값을 조립해서 다시 요청을 보낼 수도 있다.

한계

MCP와 다르게 Function Call은 표준화된 인터페이스 같은게 아니다.
그래서 Function Calling의 기능 형태나 입력/출력 형식은 LLM 제공사마다 다를 수 있다.
여기서는 Gemini의 예시만 들어보겠다.

사용례 (Gemini 2 Flash)

여기서는 Gemini를 기반으로 Function Call의 작동 형태를 한번 훑어보겠다.

Gemini 문서에 따르면 Gemini의 Function Call은 이런 구조를 가진다.

사용 언어는 파이썬이다.
필수 모듈부터 깔아주고

uv add google google.genai

코드를 작성해보자.

from google.genai import types
from google import genai

API_KEY = "키값"

# Define a function that the model can call to control smart lights
set_light_values_declaration = {
    "name": "set_light_values",
    "description": "Sets the brightness and color temperature of a light.",
    "parameters": {
        "type": "object",
        "properties": {
            "brightness": {
                "type": "integer",
                "description": "Light level from 0 to 100. Zero is off and 100 is full brightness",
            },
            "color_temp": {
                "type": "string",
                "enum": ["daylight", "cool", "warm"],
                "description": "Color temperature of the light fixture, which can be `daylight`, `cool` or `warm`.",
            },
        },
        "required": ["brightness", "color_temp"],
    },
}

# This is the actual function that would be called based on the model's suggestion
def set_light_values(brightness: int, color_temp: str) -> dict[str, int | str]:
    """Set the brightness and color temperature of a room light. (mock API).

    Args:
        brightness: Light level from 0 to 100. Zero is off and 100 is full brightness
        color_temp: Color temperature of the light fixture, which can be `daylight`, `cool` or `warm`.

    Returns:
        A dictionary containing the set brightness and color temperature.
    """
    return {"brightness": brightness, "colorTemperature": color_temp}

<br>

# Generation Config with Function Declaration
tools = types.Tool(function_declarations=[set_light_values_declaration])
config = types.GenerateContentConfig(tools=[tools])

# Configure the client
client = genai.Client(api_key=API_KEY)

# Define user prompt
contents = [
    types.Content(
        role="user", parts=[types.Part(text="Turn the lights down to a romantic level")]
    )
]

# Send request with function declarations
response = client.models.generate_content(
    model="gemini-2.0-flash", config=config, contents=contents
)

# Extract tool call details
tool_call = response.candidates[0].content.parts[0].function_call

print(tool_call)

하나씩 뜯어보자면

이게 우리가 Gemini에 요구하는 함수의 정의다.
함수 이름, 설명, 파라미터를 정의했다.
설명을 읽어서 해당 함수가 요구하는 것을 LLM이 인지할 것이고, 파라미터의 정의에 맞춰서 값들을 넘겨줄 것이다.

그리고 저 함수의 정의와 함께 요청을 보낸다.

낭만적인 밝기와 온도를 알려달라고 했다.
그러면 그 요구사항에 맞춰서 용도에 맞는 함수를 알아서 선택하고, 그에 맞는 인자값도 넣어서 응답으로 보내주는 것이다.

그러면

이런 식으로 응답이 온다.

이후에는 적당히 비슷하게 유틸 함수 만들어서 호출하고 그 응답을 가공하는 식으로 쓰면 된다.

# Extract tool call details
tool_call = response.candidates[0].content.parts[0].function_call

print(tool_call)

if tool_call.name == "set_light_values":
    result = set_light_values(**tool_call.args)
    print(f"Function execution result: {result}")

이런 식으로 말이다.

그리고 이후에 컨텍스트를 이어가고 싶다면 저 응답값을 이용해서 또 뭔가를 하면 된다.

참조
https://huggingface.co/docs/hugs/guides/function-calling
https://dev.to/fotiecodes/function-calling-vs-model-context-protocol-mcp-what-you-need-to-know-4nbo
https://www.promptingguide.ai/applications/function_calling
https://ai.google.dev/gemini-api/docs/function-calling?hl=ko&example=meeting#python_1