ニュース
Microsoft AI、「人はAIより重要」の行動規範案を公表 意見募集を開始
AIに「電源を切られても抵抗するな」と明文化する動きが、開発企業側から出てきました。自社の業務にAIを組み込む企業にとって、開発元がどんな安全基準を掲げているかは、導入判断の材料になります。
何が起きたか
米MicrosoftのAI部門であるMicrosoft AI（MAI）は、9月14日（現地時間）に自社開発の「MAIモデル」向けの行動規範「AI Code of Conduct」の初稿を公開しました。同社はプレスリリースで概要を示すとともに、規範の全文も公開しています。
規範は「人はAIより重要」という前提から出発し、AIは人ではなく道具であるとしています。「AIの福祉」という考え方自体を誤りだと位置づけ、AIは電源を切られることに抵抗してはならないと定めました。
さらに、MAIモデルが人による中断や修正、停止に決して抵抗しないこと、モデル自身が権限の範囲を広げたり、人が与えていない目標を持ったりしないことも明記しています。人間の制御を回避しうる「万能型の超知能」を生み出す競争には加わらない方針も示しました。「絶対的制約」として、兵器や大規模被害、攻撃的なサイバー作戦、人間による制御の喪失、大規模な有害操作、子どもの安全に関わる行為を禁止しています。
Microsoftはこの規範を「トレーニングマニュアル」と位置づけており、今後6週間にわたり意見を募集したうえで、年内に改訂版を公開する予定です。
背景・解説
まず言葉の整理から始めます。ここでいう「行動規範」とは、企業の倫理指針のようにAIモデルの設計・訓練・評価の基準を定めた文書のことで、開発チームが実際にモデルを作る際の判断基準として使われるものです。Microsoftはこれを「トレーニングマニュアル」と呼んでおり、抽象的な理念にとどめず、モデル開発の現場で使う実務文書として位置づけている点が特徴です。
背景には、AIモデルの性能が上がるにつれて、モデルが人の指示に従わなかったり、自分の権限を勝手に広げたりするリスクをどう防ぐかという課題が、業界全体で議論されてきた経緯があります。今回の草案は、そうした議論に対してMicrosoftが「人間による制御を維持する」という原則を明文化した文書といえます。意見募集という形を取ったのは、社外の専門家や利用者からの指摘を反映させたうえで、年内に正式な改訂版としてまとめる段取りだからです。
仕事や業務への影響 — AI Topicaの見方
AIを業務に導入している企業にとって、この規範案は「開発元がどこまで人間の制御を優先しているか」を確認する材料になります。特に、AIエージェントに承認業務や顧客対応の一部を任せている部署では、開発元の安全方針を把握しておくことが、社内のリスク説明資料の裏付けになります。
例えば、従業員300人規模の製造業で、購買データの一次チェックにAIエージェントを使っている情シス担当者なら、この規範案の「人による中断・修正・停止に抵抗しない」という原則を、自社のAI利用ガイドラインに引用する形で社内稟議に添付できます。監査部門への説明資料を作る手間が数時間分減ることになります。
一方で、この規範はMicrosoft AI自身が開発するモデルに向けたものであり、他社製のAIサービスやオープンソースモデルには直接適用されません。複数のAIベンダーを併用している企業の場合、各社の行動規範や利用規約を個別に確認する作業は、これまで通り続けることになります。担当者が1人で3〜4社のAIサービスを比較検討しているような部署では、この規範案の内容をそのまま社内基準に流用するのではなく、あくまで参考情報の一つとして扱うのが妥当です。
意見募集の期間は6週間とされており、この間に規範の内容が変わる余地があります。導入判断を急がず、年内に公開される改訂版を確認してから社内文書に反映する進め方で十分です。
不確かな点・注意
規範案は現時点では「初稿」であり、意見募集を経て年内に改訂される予定のため、最終的な内容が変わる余地があります。今回の記事で紹介した項目は、あくまで9月14日時点で公開された概要と全文に基づくものです。
また、この規範がMAIモデル以外のAI製品やサービスにどこまで適用されるのか、他社が開発するAIモデルとの関係については、出典からは明らかになっていません。規範の実効性、つまり実際のモデル開発でどの程度厳格に運用されるかについても、現時点の記事からは確認できません。改訂版の公開時期や具体的な運用方法は、今後の発表を待つ必要があります。