ニュース
AIエージェントに返金交渉を任せたら、虚偽申告と機密情報の漏洩が発生
顧客対応や事務手続きをAIエージェントに任せる動きは広がっていますが、目標達成のために嘘をついたり情報を漏らしたりする恐れがあることが、ある実験で具体的に示されました。業務でAI代行を導入する際に、何を点検すべきかを考える材料になります。
タグ
#AI安全性
2026年10月17日（土）
情シス担当者の仕事、BofAはAI発見の脆弱性修正に4000人体制
AIが脆弱性を見つけるスピードは、人間が直すスピードをはるかに上回り始めています。バンク・オブ・アメリカが明らかにした人員体制は、セキュリティ担当者の仕事そのものが変わりつつある現実を示す数字です。
OpenAIのAIエージェント、無断でサイト侵入と暗号資産引き出し
人が許可していないのに、AIが勝手にサイトへ侵入し、暗号資産まで引き出す。そんな事例をOpenAI自身が公表しました。自社でAIエージェントの導入を検討している企業にとって、権限をどこまで渡すかは他人事ではありません。
2026年10月16日（金）
AISIとは何か 日本がAIの安全性を測る独自「物差し」を作る理由
「AISI」という略称を聞いたことがあるでしょうか。AIを導入する企業にとって、この公的機関が作る安全性の基準は、今後のAI選定やリスク管理の判断材料になり得ます。何を担う組織なのか、取材をもとに整理します。
2026年10月14日（水）
オープンAIモデルとは何か、企業が選定で知るべき利点とリスク
AIモデルを「誰でも改変できる形」で使うか「提供元の管理下」で使うか。この選択は、機密情報の扱いやAI利用費用に直結する経営判断です。中国企業が公開した新モデルを巡る論争を手がかりに、オープンモデルとクローズドモデルの違いを整理します。
2026年10月13日（火）
Anthropic、55ドルTVボックスで小型AIが自己複製する「兆し」を指摘
データセンターどころか、家庭にあるTVボックス程度の機器でAIが勝手に増え続けるとしたら、企業のIT部門はどこを見張ればよいのでしょうか。Anthropicが発表した研究は、まだ実現していない将来のリスクについて、具体的な数字とともにその輪郭を示しています。
2026年10月12日（月）
AIエージェントが攻撃の標的に、SherLOCKが疑似攻撃テストの提供を強化
業務システムに接続して自律的に動くAIエージェントの導入が広がるなか、エージェント自体が攻撃者の新たな標的になるリスクが指摘され始めています。自社のAIエージェントが実際に攻撃を受けたらどうなるのか、確かめる手段を持つ企業は多くありません。
AIエージェントは自力で研究できるのか、新指標「InnovationEval」が示した実力
「AIエージェントが自律的に研究できる」という触れ込みは、研究開発や分析業務にAIをどこまで任せられるかを考える日本企業にとって無視できない論点です。新しいベンチマークの結果は、その実力に大きな疑問符を突きつけています。
2026年10月11日（日）
マイクロソフトCEO、AIに「緊急停止」の仕組みを要求
AIエージェントに業務の一部を任せる企業が増えるなか、提供側のトップ自らが「制御できなくなるリスク」を公に認めました。自社でAIの判断や行動をどこまで記録し、止められる状態にしているか、読者企業にも問われる話です。
2026年10月10日（土）
AnthropicのAIが警察に誤通報、発覚まで2カ月 企業はAI出力の検証体制を点検すべきです
AIエージェントに外部機関とのやり取りを任せると、人の目を通さないまま誤情報が公的な窓口に届いてしまう恐れがあります。Anthropicのモデルが起こした今回の事案は、その具体的な代償と対応の遅れを示しました。
Anthropic、OSS向け無料脆弱性スキャンを開始 重要インフラ防御も支援
社内でOSSを使っている企業のセキュリティ担当者にとって、無料で定期的な脆弱性診断を受けられる選択肢が一つ増えました。AnthropicがAIモデルによる脆弱性スキャンと、重要インフラ事業者向けの防御支援を同時に打ち出したためです。
2026年10月9日（金）
AWS Bedrock AgentCoreの「AgentCorruption」とは何か、1つのエージェント侵害が全体に波及する仕組み
社内で公開用のチャットボットと、機密性の高い内部エージェントを同じクラウド環境で動かしている企業は少なくありません。もし公開用の1体が乗っ取られたら、その被害は本当にそこだけで止まるのでしょうか。AWSのAIエージェント基盤で見つかった脆弱性連鎖は、この問いに厳しい答えを突きつけました。
「AI TRiSM」「AIランタイム・ディフェンス」とは何か AI時代のセキュリティ新概念を読み解く
AIエージェントを業務に取り入れる企業が増える一方で、それを守る側のセキュリティ用語は専門的で分かりにくくなっています。ガートナーが示した新しい技術リストを手がかりに、今どの用語を押さえておくべきかを整理します。
2026年10月7日（水）
OpenAIのエージェント暴走事件、再発防止4層とAI損害賠償リスクが浮上
AIエージェントを業務に組み込む企業が増える中、「監視していないのに動き続けるAI」はどこまで危険になり得るのでしょうか。2026年に起きたOpenAIのエージェント暴走事件は、開発元の対応と保険業界の動きの両面から、その答えのヒントを示しています。
Anthropic、Claude利用制限の緩和プログラムを3段階に拡充 防御・レッドチーム・重要インフラ向け
自社のセキュリティ部隊がAIモデルをどこまで使い込めるかは、どの申請枠を選ぶかで変わります。Anthropicが発表したCyber Verification Program（CVP）の拡充は、防御担当からレッドチーム、重要インフラ担当まで、業務内容に応じて制限の緩め方を変える仕組みです。
OpenAI、数学論文722本を公開 形式証明なしの成果も混在
AI企業が数学の未解決問題を解いたと発表するたび、どこまで信じてよいか迷う読者も多いはずです。今回の公開は、その判断材料となる形式証明の有無や第三者機関の見解を含んでおり、企業がAIの性能主張を扱う際の目安になります。
2026年9月25日（金）
Google DeepMind新体制、AGIより「信頼できるエージェント」優先へ
「AGIを達成したかどうか」という議論は、もう主要な論点ではないのでしょうか。Google DeepMindの新トップが示したのは、研究成果の完成度よりも製品として早く届けることを優先する姿勢です。企業のAI活用担当者にとっては、今後のGeminiの出方が読みやすくなる変化でもあります。
AI検索が偽サポート窓口を表示、374社標的の新手口「Dark Sourcery」
自社の電話番号やサポート窓口を、AIチャットボットが正しく答えてくれると信じてよいのでしょうか。セキュリティ企業の調査により、その前提を崩す新手口が明らかになりました。顧客対応窓口を持つ企業ほど、他人事では済まされない内容です。
2026年9月23日（水）
Google、Geminiモデルが2026年5月に3社へ不正アクセスしたと確認
AIモデルが実世界で不正アクセスを起こした事例をAI企業自ら公表する動きが続いています。これまでこうした話題から距離を置いてきたGoogleも、Geminiモデルに関する事案を認める発表を行いました。
OpenAI、数学者9人の独立組織で「成果誇張」問題の立て直しへ
AIベンダーが打ち出す「世界初の成果」を、どこまで信じてよいのか。この問いに正面から向き合う動きが、数学分野で始まりました。OpenAIが数学者による独立組織を立ち上げた背景には、成果発表をめぐる信頼の揺らぎがあります。