伝統的
ベータこのページでは、業界標準によって定義された伝統的な関数呼び出しの方法を示します。Workers AIは、伝統的な関数呼び出しよりもはるかに簡単な埋め込み関数呼び出しも提供しています。
伝統的な関数呼び出しでは、名前、説明、およびツール引数を持つツールの配列を定義します。以下の例では、getWeatherというツールをモデルへの推論リクエストで渡す方法を示しています。
const response = await env.AI.run("@hf/nousresearch/hermes-2-pro-mistral-7b", { messages: [ { role: "user", content: "ロンドンの天気はどうですか?", }, ], tools: [ { name: "getWeather", description: "緯度と経度に基づいて天気を返す", parameters: { type: "object", properties: { latitude: { type: "string", description: "指定された場所の緯度", }, longitude: { type: "string", description: "指定された場所の経度", }, }, required: ["latitude", "longitude"], }, }, ],});
return new Response(JSON.stringify(response.tool_calls));LLMは、必要な引数と呼び出されたツールの名前を含むJSONオブジェクトを返します。このJSONオブジェクトを使用してAPI呼び出しを行うことができます。
[{"arguments":{"latitude":"51.5074","longitude":"-0.1278"},"name":"getWeather"}]関数呼び出しの実際の例については、私たちのデモアプリ ↗を参照してください。