OpenAPI仕様に基づくツール

APIはしばしばOpenAPI仕様 ↗を通じて定義され、文書化されます。Cloudflareのai-utilsパッケージのcreateToolsFromOpenAPISpec関数は、OpenAPI仕様からツールを作成し、LLMがプロンプトを満たすためにそれを活用できるようにします。

この例では、LLMがGithubのAPIとそのOpenAPI仕様に基づいてGithubユーザーを説明します。

OpenAPI仕様からの埋め込み関数呼び出しの例

import { createToolsFromOpenAPISpec, runWithTools } from '@cloudflare/ai-utils';

type Env = {
  AI: Ai;
};

const APP_NAME = 'cf-fn-calling-example-app';

export default {
  async fetch(request, env, ctx) {
    const toolsFromOpenAPISpec = [
      // OpenAPI仕様のリンクまたは内容を直接渡すことができます
      ...(await createToolsFromOpenAPISpec(
        'https://gist.githubusercontent.com/mchenco/fd8f20c8f06d50af40b94b0671273dc1/raw/f9d4b5cd5944cc32d6b34cad0406d96fd3acaca6/partial_api.github.com.json',
        {
          overrides: [
            {
              matcher: ({ url }) => {
                return url.hostname === 'api.github.com';
              },
              // *.github.comへのすべてのリクエストにはUser-Agentを追加する必要があります。
              values: {
                headers: {
                  'User-Agent': APP_NAME,
                },
              },
            },
          ],
        }
      )),
    ];

    const response = await runWithTools(
      env.AI,
      '@hf/nousresearch/hermes-2-pro-mistral-7b',
      {
        messages: [
          {
            role: 'user',
            content: 'Githubのcloudflareは誰で、組織は何件のリポジトリを持っていますか？',
          },
        ],
        tools: toolsFromOpenAPISpec,
      }
    );

    return new Response(JSON.stringify(response));
  },
} satisfies ExportedHandler<Env>;