コンテンツにスキップ

公開LoRAアダプター

Cloudflareは、すぐにファインチューニングされた推論に使用できるいくつかの公開LoRAアダプターを提供しています。私たちのプレイグラウンド ↗で今すぐ試すことができます。

公開LoRAはcf-public-xという名前が付けられ、プレフィックスはCloudflare専用となります。

名前説明互換性のあるもの
cf-public-magicoder ↗複数の言語でのコーディングタスク@cf/mistral/mistral-7b-instruct-v0.1
@hf/mistral/mistral-7b-instruct-v0.2
cf-public-jigsaw-classification ↗有害なコメントの分類@cf/mistral/mistral-7b-instruct-v0.1
@hf/mistral/mistral-7b-instruct-v0.2
cf-public-cnn-summarization ↗記事の要約@cf/mistral/mistral-7b-instruct-v0.1
@hf/mistral/mistral-7b-instruct-v0.2

これらの公開LoRAをAPIコールでリストすることもできます：

Terminal window
curl https://api.cloudflare.com/client/v4/accounts/{account_id}/ai/finetunes/public \
 --header 'Authorization: Bearer {cf_token}'

公開LoRAを使用した推論の実行

公開LoRAを使用して推論を実行するには、リクエストでLoRAの名前を定義するだけです。

LoRAがトレーニングされたプロンプトテンプレートを使用することをお勧めします。これは、各アダプターにリンクされたHuggingFaceリポジトリで見つけることができます。

cURL

Terminal window
curl https://api.cloudflare.com/client/v4/accounts/{account_id}/ai/run/@cf/mistral/mistral-7b-instruct-v0.1 \
  --header 'Authorization: Bearer {cf_token}' \
  --data '{
    "messages": [
      {
        "role": "user",
        "content": "数が偶数か奇数かを確認するPythonプログラムを書いてください。"
      }
    ],
    "lora": "cf-public-magicoder"
  }'

JavaScript

const answer = await env.AI.run('@cf/mistral/mistral-7b-instruct-v0.1',
  {
    stream: true,
    raw: true,
    messages: [
      {
        "role": "user",
        "content": "次の内容を要約してください：いくつかの新聞、テレビチャンネル、そして有名な企業は、4月1日に人々を騙すために偽のニュースを発表します。この最も初期の例の1つは1957年に、英国の国営テレビチャンネルBBCがスパゲッティが木に生えるという報告を放送したプログラムでした。この映画は、スイスの家族が木からスパゲッティを集める様子を示しており、多くの人々はそれを信じ込まされました。1950年代の英国人はあまりパスタを食べず、多くの人がそれがどのように作られるかを知らなかったからです！今日のほとんどの英国人はスパゲッティのトリックに引っかからないでしょうが、2008年にBBCは、飛ぶ能力を取り戻した特別なペンギンを示すように見える進化の奇跡の予告編で再び観客を騙すことに成功しました。英国の主要な2つの新聞、デイリー・テレグラフとデイリー・ミラーは、その重要なストーリーを表紙に掲載しました。"
      }
    ],
    lora: "cf-public-cnn-summarization"
  });
Cloudflare DashboardDiscordCommunityLearning CenterSupport Portal
Cookie Settings