AI Topica

比較・活用

SubQ SnapとJev、意思決定モデルはコンテキスト長で選ぶべきか

エージェントに業務判断を任せる仕組みを導入するなら、どの意思決定モデルを選ぶべきでしょうか。コンテキスト長や精度の違いは、ワークフロー全体のコストと速度に直結します。

何が起きたか

アメリカのAI企業Subquadraticが、意思決定モデル「SubQ Snap」を発表しました。最大の特徴は、38万4000トークンという入力対応量です。これは既存の意思決定モデル「Jev」の12倍に相当する規模といいます。

SubQ Snapは最大38万4000トークンのテキストと画像を使って意思決定を行い、最大10万トークンのリクエストを1秒未満で処理できるとされています。意思決定モデルの判断能力を測るベンチマーク「Decision Index」バージョン0.2.1では、Jevよりも4ポイント高いスコアを獲得しました。ただし、ドキュメント分類の正確性を見る「ACOS」、API利用の正確さを測る「API-Bank」、API呼び出しの要否判断を測る「When2Call」の3項目では、SubQ SnapはJevを上回りませんでした。

価格は入力トークン100万あたり0.05ドル(約7.9円)で、出力トークンには料金が発生しません。記事作成時点ではパブリックプレビュー版が先着順で提供されており、定員に達すると新規ユーザーはウェイティングリストに追加される仕組みです。

背景・解説

意思決定モデルとは、エージェントのワークフローの中で発生する小さな判断を、大規模言語モデル(LLM)に代わって高速に処理するために作られた専用モデルを指します。「どのファイルが関連しているか」「次にどのツールを使うべきか」「テスト結果は合格か」といった判断が該当し、エージェントはほぼ常にこうした選択を迫られます。LLMが毎回こうした判断を担うと処理が重くなるため、軽量な専用モデルで肩代わりさせる発想です。

Subquadraticによると、現実のワークフローでは判断材料となる情報量が多く、コードベース全体や契約書の過去のページ、過去のツール呼び出し履歴などを踏まえる必要が出てきます。ところが従来のアテンション機構は、入力が長くなるほど計算量が二次関数的に増え、処理速度もコストも悪化する弱点を抱えていました。このためSubquadraticは、既存の意思決定モデルのコンテキストウィンドウが3万2000トークン程度にとどまり、必要な情報の大半を見ないまま判断していると指摘しています。

この問題に対応するため、Subquadraticは新しいアテンション機構「SSA」を搭載したSubQ Snapを構築しました。SSAは計算量がトークン数に比例しても処理速度が落ちにくい設計とされ、これにより長文入力でも判断の精度を保てるとしています。Decision RULERおよびDecision LCRという2つのベンチマークでの評価でも、入力トークンが長くなってもSubQ Snapの判断水準は大きく落ち込まず、短い入力でもJevを上回る結果が示されています。

仕事や業務への影響 — AI Topicaの見方

意思決定モデルを選ぶ際は、処理させたい情報量とタスクの種類で基準を変えるべきです。長い契約書やコードベース全体を読ませて判断させる業務が中心なら、コンテキスト長が長いモデルの効果が大きくなります。例えば、法務部が契約レビューの自動チェックにエージェントを使う場合、条項が離れたページに分散している契約書を扱うなら、38万4000トークンまで対応できるモデルの方が見落としを減らせます。

一方で、API呼び出しの要否判断やツール選択といった狭いタスクが中心の業務では、コンテキスト長よりも該当ベンチマークでのスコアを重視すべきです。出典にある通り、ACOSやAPI-Bank、When2CallといったベンチマークではSubQ SnapはJevを上回らず、API連携中心のエージェント運用ではJevの選択も十分合理的になります。例えば、情シス部門が社内ツールのAPI呼び出し判断だけをエージェントに任せる構成なら、長文対応よりもAPI-Bankのスコアを基準に選ぶ方が理にかなっています。

コストの面では、入力100万トークンあたり0.05ドル(約7.9円)、出力無料という価格設定は、長文を繰り返し読み込ませる運用ほど恩恵が大きくなります。例えば、月間で契約書100件・平均5万トークンを処理する法務チームなら、入力コストは単純計算で1ドルに満たない水準に収まります。小規模なタスクしか扱わない部署であれば、無理に長文対応モデルへ切り替える必要はなく、既存のモデル構成を維持するだけで十分です。

不確かな点・注意

Decision Index v0.2.1やDecision RULER、Decision LCRといったベンチマークの具体的な評価方法や測定条件は、出典の範囲では詳細が示されていません。スコア差がどの程度実務上の体感差につながるかは、導入企業ごとの検証が必要です。

価格についても、入力100万トークンあたり0.05ドル(約7.9円)という条件が将来どの程度維持されるかは明らかになっていません。記事作成時点ではパブリックプレビュー版が先着順で提供されており、定員の規模や一般提供の時期は読み取れず、日本語環境での対応状況も出典には記載がありません。導入を検討する場合は、自社の業務に近い条件で改めて確認する姿勢が欠かせません。

出典

  1. 38万4000トークンの入力に対応した意思決定モデル「SubQ Snap」が登場、コンテキストウィンドウが長くても短くてもJevより優秀で画像にも対応

AI Topica 編集部