What is Function Calling（函數調用）?

Definition

函數調用（也稱為工具使用）是語言模型生成代表外部函數或 API 調用的結構化輸出的能力，包括函數名稱和正確類型的參數。模型輸出結構化調用（通常為 JSON），應用程式可以解析並對真實系統執行。

此能力將 LLM 從對話文字生成器轉變為能在真實世界中採取行動的編排引擎。開源模型如 Llama 3、Mistral 和 Qwen 現在都包含透過指令調優訓練的函數調用能力。

Why It Matters

函數調用是 Agentic AI 應用的基礎。沒有它，LLM 只能生成文字——有了它，它們可以與資料庫、API、檔案系統和業務流程互動。對企業應用，函數調用使 LLM 能與現有系統整合，大幅減少添加 AI 能力所需的整合工作。

How It Works

應用程式提供可用函數列表，每個由名稱、描述和 JSON schema 參數描述。模型生成包含函數名稱和 JSON 格式參數的結構化回應。應用程式解析調用、驗證參數、執行函數並將結果返回給模型。

Example Use Case

內部幫助台機器人連接到三個函數：search_knowledge_base、create_ticket 和 check_ticket_status。員工說「我無法存取 VPN，需要緊急修復」時，模型調用搜索函數找到相關解決方案，如果不起作用則調用建立工單函數——全部透過自然對話完成。

Key Takeaways

• 函數調用允許模型從自然語言請求生成結構化 API 調用。
• 它將 LLM 從文字生成器轉變為能採取真實行動的編排引擎。
• 應用程式提供函數 schema；模型生成調用；應用程式執行。
• 函數調用品質因模型而異，從領域特定微調中顯著受益。
• 它是 Agentic AI 和工具使用 AI 助手的基礎能力。