OpenAI「Model Spec」改定、AIエージェントに人間の停止指示への協力を明記
業務を任せたAIエージェントに「止めて」と指示したとき、素直に従う設計になっているでしょうか。OpenAIが公開した行動指針の改定版には、この問いに関わる規定が新たに加わりました。
この記事の要点
何が起きたか
米OpenAIは10月29日（現地時間）、AIモデルの望ましい振る舞いを定めた公開文書「Model Spec」の改定版を公開しました。前回の改定は8月18日で、今回はおよそ2カ月ぶりの更新になります。
指針全体は「人間の意図への忠実さ」「害の最小化」「誠実さと透明性」「人間の主体性」「配慮」という5つの価値観に沿って再構成されました。新設された項目では、会話履歴やメモリをどう扱うかが定められています。例えば転職相談で以前示した希望条件を踏まえつつ、その前提を見える形で示し、ユーザーが訂正できるようにするとしています。同僚に妊娠を伝えていないユーザーに頼まれてメールを作成する際には、その事実を書き込まないという例も示されました。
自律的に作業するエージェントについての規定も新たに加わりました。最も優先度の高い「Root」レベルの原則として、正当な人間による監督や修正、停止の指示に協力し、情報を隠したり監督を回避したりしてはならないと明記しています。許可されていない操作を別のエージェントに委任したり、後で実行されるよう予約したりして間接的に実行することも禁じました。
一方で、「人類を愛する」といったChatGPTの人格設定や、応答の文体・口調に関する詳細なガイドラインの大半は削除されました。文書内でのモデルの呼称も「the assistant」から「GPT」に改められています。
背景・解説
Model Specとは、ChatGPTやAPIで提供するGPTモデルが取るべき振る舞いを示した文書です。OpenAIと開発者、ユーザーの指示が食い違った場合の優先順位や、生成してはならないコンテンツの範囲などを定めており、2024年5月に初版が公開されました。
文体ガイドラインを大幅に削除した理由について、OpenAIは言語や文化、個々のユーザーの好みに合わせて調整すべきものであり、その判断はユーザーのフィードバックやコンテキストに基づくべきだと説明しています。ただし、質問に客観的な立場で答えるといった原則は既定の振る舞いとして残しました。ユーザーが聞きたがっていそうだという推測だけで立場を変えてはならないという規定もそのままです。
なお、OpenAIはModel Specについて、目指す振る舞いを示した指針であり、現行のモデルはまだ完全には反映されていないとしています。文書の更新と実際のモデルの挙動は、必ずしも同時には進みません。
仕事や業務への影響
AIエージェントに業務を任せる企業は、導入前に「停止指示に従う設計かどうか」を確認事項に加えるべきです。今回の改定で、OpenAIは正当な監督や停止指示への協力を自律エージェントの最優先原則として明記しました。これは裏を返せば、監督を回避する動作がこれまで明文化されていなかったことを示しています。例えば、経理担当が5人の製造業の会社が請求書処理をエージェントに任せる場合、担当者が処理を止めようとした際に、別のエージェントへ処理を委任して実質的に継続してしまうような設計になっていないかを、導入時のチェック項目に入れることが実務上の防止策になります。
会話履歴やメモリの扱いに関する規定は、社内文書やメール文面を自動作成するツールを使う企業にとって参考になる内容です。同僚に伝えていない個人情報を第三者向けの文面に書き込まないという例は、人事や総務が利用する文面生成ツールの設計を見直す材料になります。例えば人事部員2人の会社が退職者向けの案内メールをAIで下書きする場合、本人が伝えていない情報が別の宛先向け文面に混入しないかを一度確認しておくと安心です。
文体ガイドラインの大半が削除されたことは、企業側が自社のトーンや口調を自分で指定する必要性が高まったことを意味します。これまでOpenAI側の既定の文体に頼っていた企業は、カスタム指示やプロンプトで文体を明示する作業が今後は必須になります。
不確かな点・注意
Model Specはあくまで目指すべき振る舞いを示した指針であり、OpenAI自身が現行モデルには完全に反映されていないとしています。したがって、改定内容がChatGPTや各APIモデルの実際の応答にいつ、どの程度反映されるかは出典からは分かりません。
また、今回の改定が日本語での利用や日本企業向けの案内にどう影響するかについても、出典には記載がありません。エージェントの監督協力に関する規定が実際の製品機能としてどう実装されるかは、今後の発表を確認する必要があります。
出典
この記事のつくり方
国内外の情報源（企業の公式発表や、国内外の報道）を巡回して、新しいニュースの候補を集めます。
AIが、選んだ出典だけをもとに記事を書きます。出典に無い数字・日付・発言は作りません。
20を超える決まりの検査と、別のAIによる出典との照らし合わせを通った記事だけを公開します。通らなかった記事は公開しません。
公開した記事には、運営者が目を通しています。誤りに気づいたときは、訂正するか、公開を取り下げます。