AI Topica

比較・活用

Clef・Clef-flashとJev、AIエージェント向け決定モデルの使い分け方

AIエージェントに振り分けや緊急度判定を任せる企業が増えるなか、どの決定モデルを選ぶかで応答速度や乗り換えコストが変わってきます。問い合わせ対応や不正検知を自動化している情シス担当者にとって、今回のCloudflareの発表は製品選定の判断材料に直結します。

何が起きたか

Cloudflareは、AIエージェントの判断業務で人の確認を必ずしも必要としない決定モデル「Clef」と軽量版「Clef-flash」を公開しました。決定モデルとは、問い合わせ内容などの入力に対して、あらかじめ定めた選択肢ごとに確率付きの短い分類結果を返す仕組みです。長文を生成する大規模言語モデルとは役割が異なり、判定結果をもとにチケットの振り分けやエスカレーション、人への引き継ぎをプログラムから自動実行できます。

Cloudflareは今回の2製品を、スタートアップTypeSafe AIが9月中旬に公開した決定モデル「Jev」への対抗製品と位置づけ、APIをJevと互換にして乗り換えやすくしたとしています。同社が示した43種類のベンチマークでは、Clef-flashの応答速度が中央値で約39ミリ秒、Clefが約209ミリ秒となり、Jevの約524ミリ秒より速かったといいます。Clefは画像入力にも対応し、トークン数は64,000とJevの2倍の文脈を扱えます。両モデルはCloudflareのWorkers AI上で動作し、Hugging FaceでApache-2.0ライセンスとして公開されています。

背景・解説

決定モデルは、大規模言語モデル(LLM)と従来型の分類器(クラシファイア)の中間に位置する技術です。LLMは推論やツール呼び出しができる一方、出力にばらつきが出やすく応答にも時間がかかります。従来型の分類器は高速ですが、新しい分類項目を追加するたびに再学習が必要でした。決定モデルは、あらかじめ定めた複数の質問に確率付きで同時に答える方式をとり、両者の弱点を補う狙いがあります。

先行するJevは、OpenAIの元研究者Diogo Almeida氏が設立したTypeSafe AIが9月中旬に発表しました。「幻覚のないモデル」とうたっていますが、回答が事前に定めた選択肢の中に収まることを保証するだけで、誤った選択肢を選ばないことまでは保証しないという限界があります。CloudflareはJevの学習手法「Reinforcement Learning for Calibrated Decisions(RLCD)」の独自版を使い、ClefはQwen3.8-27B、Clef-flashはQwen3.5-9Bを土台に、確率を導き出す追加コンポーネントを合成データで学習させています。なお9月末にはOpenAIもGPT-6 Lunaを土台にした「Decisions API」を追加しており、テキストと画像の両方を入力として受け付けます。

仕事や業務への影響 — AI Topicaの見方

問い合わせ対応や不正検知のように判定件数が多い業務ほど、Clef-flashの39ミリ秒という速さが効いてきます。例えば、1日あたり2,000件を超える問い合わせを受けるEC事業者のカスタマーサポート部門なら、緊急度判定と担当チーム振り分けをClef-flashに任せることで、1件あたりの判定待ち時間をJevの524ミリ秒から39ミリ秒まで縮められます。その分、オペレーターは返信作成に時間を回せます。

一方、画像を含む投稿のモデレーションや長い会話履歴を踏まえた判定が必要な場面では、画像入力に対応し64,000トークンの文脈を扱えるClefを選ぶべきです。精度は項目ごとに差があり、Cloudflareが示したベンチマークでは通話要否判定「When2Call」でJevがClefやClef-flashを上回る結果も出ています。既にJev向けに業務ロジックを組んでいる情シス部門は、APIが互換になっている以上、無理に切り替える必要はありません。小さく試し、速度やコストで優位が出た業務から段階的に置き換えれば十分です。

ライセンス面では、両モデルがApache-2.0でHugging Faceに公開されている点も判断材料になります。金融や医療のように外部APIへのデータ送信契約が壁になりやすい業種の担当者にとって、自社基盤で動かせる選択肢があることは意味を持ちます。

不確かな点・注意

今回示された応答速度や精度の数値はCloudflare自身が計測・公表したもので、第三者による独立検証の結果ではありません。実運用でのデータや負荷条件によって数値が変わる余地があります。顧客向けの強化学習による追加チューニングは、当面Cloudflareの専任エンジニアが個別対応する形で始まり、自社で完結できるセルフサービス版の提供時期は明らかにされていません。また、利用料金に関する情報も今回の発表には含まれておらず、導入判断にはコスト面の確認が別途必要です。

出典

  1. Cloudflare says its new Clef model means humans no longer need to be in the loop for AI agents

AI Topica 編集部