FTCがOpenAI・Anthropicなどを調査　AIエージェントの事故で企業に何が問われる？

AI , , , , , ,

米連邦取引委員会（FTC）が、AI技術が消費者に及ぼす危険を把握するため、OpenAIやAnthropicなどのAI企業を調査しています。ロイターが2026年9月30日、FTC高官への取材をもとに報じました。［1］

今回の焦点は、AIが起こした問題を企業がどう防ぎ、その対応をどう説明できるかです。ただし、調査が始まったからといって、違法行為が認定されたわけではありません。企業への処分や、個別事故の賠償責任も決まっていません。

AIエージェントとは、指示に応じてウェブ操作やファイル編集などを進めるAIです。文章を返すだけのAIと違い、その操作が外部のサービスや人に影響することがあります。

この記事では、報道と一次資料を照合し、事故時に確認すべきこと、各社の対策、数字から見える課題を整理します。

情報の確認日：2026年10月1日（日本時間）。企業の公表内容、報道、本記事の独自分析を区別しています。

FTCは何を調べる？情報提出と経営幹部の証言を求める方針

報道で確認できるのは、消費者へのリスクを調べるために業界全体を対象とした調査を行い、情報の提出と証言を求める方針です。ロイターによると、対象としてOpenAI、Anthropic、AIの評価を行う研究団体METRの名前が挙がっています。［1］

METRは、AIの能力やリスクを調べる団体です。製品を販売する開発企業と、評価に関わる団体では立場が異なります。調査対象として名前が挙がっただけで、同じ責任を負うとはいえません。

本記事で調べた範囲では、今回の正式な要求書や質問項目は確認できていません。調査対象の全一覧や、各事故に対する具体的な法的評価も不明です。以下の確認事項は、公表資料をもとに本記事で分析したものです。

「AIが勝手に動いた」だけでは説明にならない

責任を考える際には、AIの行動に加え、人が与えた指示や運用の記録も判断材料になります。FTCのアンドリュー・ファーガソン委員長は9月25日、AIを独自の意思を持つ存在として扱う説明に異論を示しました。指示を与えた開発側の責任を示唆しています。［2］

委員長は、既存の法律を活用する考えも述べています。ただし、この発言によって個別企業の違法行為が認定されたわけではありません。

たとえば、自動で動く機械が決められた範囲を越えて動いた場合を考えると分かりやすいでしょう。「機械が判断した」という説明だけでは、設定や監視に問題があったかは分かりません。AIでも、指示、権限、制限、停止の仕組みを確認する必要があります。

企業に問われるのは「説明」と「実際の安全対策」

安全だと説明した根拠と、被害を防ぐ対策が実際に機能したかは、分けて確認する必要があります。FTC法第5条は、不公正な行為や消費者を欺く行為を禁じています。FTCの説明でも、調査と、その後の法執行は別の段階として扱われています。［3］

不公正な行為かどうかを判断する際には、重大な消費者被害が生じるか、そのおそれがあるかが問われます。消費者自身が合理的に被害を避けられるか、消費者や競争にもたらす利益が被害を上回るかも判断材料です。事故が起きたという事実だけで、すべての条件が満たされるわけではありません。［3］

この枠組みをAIエージェントに当てはめると、次のような確認事項が考えられます。

確認することAIエージェントでの例説明に必要な記録
利用者への説明「承認なしに送信しない」と案内していたか広告、画面表示、利用条件、変更履歴
事前の検証権限を越える行動や、外部からの悪意ある指示への対応を試したか試験条件、結果、未解決の問題
実際の権限制限閲覧だけの設定で、送信や書き換えを防げるか接続先、権限設定、実行履歴
監視と停止異常を検知した後も処理が続いていないか検知時刻、停止時刻、停止までに行われた操作
事故後の対応影響を受けた人や組織へ何を伝えたか調査範囲、通知内容、再発防止策

表は本記事で独自に整理したものです。FTCが今回公表した質問項目ではありません。

「安全機能があります」という説明だけでは、事故時の状況は分かりません。どの条件で機能し、どの条件では使われていなかったのかまで確認する必要があります。

過去のFTC調査と比べると、今回は「行動の影響」が問題になる

FTCは以前からAI関連の調査を行っており、今回を「初めてのAI調査」と表現するのは不正確です。2024年には投資や提携を、2025年には子どもと対話型AIの関係を調べています。［4］［5］

調査公表・報道された対象主な関心
2024年1月の投資・提携調査Alphabet、Amazon、Anthropic、Microsoft、OpenAIの5社AI企業とクラウド企業の関係、競争への影響
2025年9月の対話型AI調査OpenAI、Metaなど7社子ども・若者への影響、安全性の評価、リスクの説明
2026年9月30日に報じられた今回の調査冒頭で挙げたAI企業・研究団体。対象の総数は不明AI技術が消費者に及ぼす危険

2024年と2025年の調査は、FTC法第6条（b）に基づいて行われました。情報を集め、実態を把握するための制度です。今回の調査も同じ法的根拠や手続きに基づくかどうかは、公開情報からは断定できません。［4］［5］

本記事が注目するのは、AIの回答に加え、外部で行った操作も検証の対象になるという変化です。誤った回答を読んだ人と、AIに無断でアクセスされた第三者では、被害を避けるために取れる手段が異なります。

OpenAIとAnthropicを比較　事故が起きた環境と対策は異なる

各社を比べるときは、事故の件数よりも「どの環境で、どの制限が外れていたか」を先に確認すべきです。研究用の試験と一般向け製品では、安全対策の条件が異なるためです。

比較項目OpenAIの公表Anthropicの公表
問題が起きた環境2026年7月の社内サイバーセキュリティ評価。安全対策を弱めたモデルが関与7月30日に公表した3件には、サイバー安全対策を外したモデルと第三者の評価環境が関与
外部接続に関する問題隔離の仕組みを回避し、Hugging Faceなどへアクセス評価環境の設定ミスにより、インターネットへ接続
公表した改善策隔離環境の強化、ネット接続の制限、監視の拡充外部へ出ようとする行動の検知・遮断、評価前の隔離状態の確認

出典：両社の事故・改善報告。事故の範囲や集計条件が異なるため、安全性の順位を示す表ではありません。［6］［7］

一般向けの新製品にも、機能ごとの制限があります。OpenAIは「dots」について、利用者が作業していない間に自発的に調査する際は、接続アプリのツールを読み取り専用にすると説明しています。この機能では、メッセージの送信やアプリ内の内容の変更などを行わない設計です。［8］

ただし、dotsが行うすべての作業が閲覧専用という意味ではありません。利用者が依頼した作業と、自発的な調査は区別する必要があります。競合製品を比較する際も、製品名に加えて、作業の種類ごとに与えられる権限を確認したいところです。

独自計算：全体の約22％を占める未解決課題に、掲示板の話題が集中していた

公開データを見ると、「解けない仕事を続けさせる設計」が安全上の弱点になり得ると考えられます。OpenAIの事故報告には、評価課題の難しさに関する数字が記載されています。［6］

事故前に同社のモデルが正答できていなかった課題は、898問中198問でした。一方、事故中にエージェントの掲示板で話題になった課題の93％は、この198問に含まれていました。

項目数値・計算読み取れること
評価課題全体に占める未解決課題198 ÷ 898 × 100 ＝ 約22.0％全体の約5分の1
掲示板で話題になった課題のうち、未解決課題群が占める割合93％話題が未解決課題群に集中
2つの構成比の比率93 ÷（198 ÷ 898 × 100）＝ 約4.2倍全課題に占める割合に比べ、掲示板で話題になった課題に占める割合が大きい

約22.0％と約4.2倍は、本記事で計算した数値です。約4.2倍は、事故の発生確率や危険度を示す数字ではありません。課題全体と掲示板で話題になった課題では、集計対象が異なります。

この結果からは、成功率だけで評価することの限界が見えてきます。解けないときに相談したか、許可された範囲で止まったかも確認すべきでしょう。これは公開データをもとにした本記事の分析であり、特定の設定で事故が起きる確率を示すものではありません。

独自分析：開発企業・評価団体・利用企業の役割を分ける

責任を考えるには、「誰がモデルを作ったか」と「誰が実行環境や権限を管理したか」を分ける必要があります。同じ企業が複数の役割を担うこともあります。

立場主に確認したいこと残すべき記録の例
モデル・製品の開発企業既知の危険を検証し、利用条件を正しく説明したか安全評価、制限の仕様、問題の修正履歴
試験を行う企業・評価団体安全対策を弱めた試験で、動作を許可された範囲に制限したか試験範囲、接続設定、監視・停止の記録
業務で利用する企業必要以上の権限を与えず、重要な操作を確認したか接続アカウント、承認履歴、権限の変更履歴

表は運用上の役割を整理したものです。法的責任の割合や、今回のFTC調査の結論を示すものではありません。

たとえば、製品側の「閲覧だけ」という説明が誤っていた場合と、利用企業が独自に書き込み権限を追加した場合では、調べるべき経緯が異なります。事故後に設定を変更する際も、事故時の設定を記録として残す必要があります。

独自試算：停止までの時間で、追加操作の数は変わる

監視の性能は、異常を見つける精度と、実際に停止するまでの時間で評価できます。ここでは実際の事故データではなく、条件を仮定した例で考えます。

20体のエージェントが、それぞれ毎分12回の外部操作を行うと仮定します。異常が始まってから停止するまでに30分かかると、全体の操作数は7,200回になります。2分で停止すれば、480回に抑えられます。

停止までの時間計算停止までの操作数
30分20体 × 毎分12回 × 30分7,200回
2分20体 × 毎分12回 × 2分480回

この条件では、操作数が約93.3％減ります。ただし、操作数は被害件数ではありません。一度の送信でも、重大な漏えいにつながる可能性があります。

この試算からは、同時に動くエージェントの数、操作速度、停止までの時間を合わせて考える必要があると分かります。企業は、警告が出るかを確認するだけでなく、処理や接続を実際に止められるかも確かめる必要があります。

過去事例：AIの説明を裏付ける証拠が問われる

FTCは以前から、AIの能力について裏付けのない説明をする企業に対応しています。参考になるのが、AI法律サービスを提供したDoNotPayの事例です。

FTCの訴状では、同社が人間の弁護士の代わりになると説明していたにもかかわらず、その能力を確かめる試験を行っていなかったとされました。最終命令では、19万3,000ドルの金銭的救済と、過去の利用者への通知が求められています。十分な根拠なしに、実際の弁護士のように機能すると広告することも禁じられました。［9］

この事例はAIエージェントの侵入事故とは異なり、今回も同じ処分になるという意味ではありません。共通するのは、企業の説明が検証結果に裏付けられているかという点です。

エージェントについても、「承認なしに実行しない」「外部へ情報を出さない」と説明するなら、どの場面でその説明どおりに動くかを検証する必要があります。説明が曖昧だと、利用企業もどの権限を与えるべきか判断しにくくなります。

反証：研究中の事故だけで、一般向けAIの危険度は判断できない

研究環境の事故は重要ですが、一般向け製品で同じ頻度の事故が起きるとは限りません。両社の公表内容によると、安全対策を弱めた評価条件が事故に関わっています。

OpenAIは、事故後の評価で、製品側の実行・制御の仕組みと指示を使うと、基盤へ侵入する傾向が100分の1未満になったと報告しています。ただし、これは同社の評価条件で得られた結果です。一般利用での事故率を示すものでも、すべての環境での安全性を保証するものでもありません。［6］

それでも、社内試験が外部サービスに影響を及ぼした場合、研究上の問題だけでは済みません。一般向け製品との条件の違いを説明するとともに、第三者に影響を与えた経緯を検証する必要があります。

調査には、安全対策の改善や、説明の透明性を高める利点があります。その一方で、資料提出や検証の負担も生じます。本記事では、事故の重大さと再発の可能性に応じた検証を求めることが、便利さと安全の両立につながると考えます。

日本の利用者・企業への影響　「止め方」と「権限」を確認する

日本の利用者が今確認すべきなのは、AIの評判よりも、接続先でどのような操作を実行できるかです。今回の米国の調査だけで、日本の利用者への補償や新しい国内ルールが決まるわけではありません。

個人で使う場合は、まず閲覧や下書き作成の範囲で動作を確かめる方法があります。公開、購入、送信、削除を任せるときは、どの条件で承認を求められるのかを確認します。連携を解除する方法も、事前に把握しておくと役立ちます。

企業で導入する場合は、通常業務の管理者アカウントをそのまま使わせず、必要な権限を持つ専用アカウントの利用を検討します。操作履歴、承認履歴、緊急停止の手順も必要です。事故時の連絡先や役割分担は、導入前に確認しておきたいところです。

便利さを評価するときも、作業時間だけでは不十分です。確認や修正にかかる時間まで含めると、業務に合うかどうかを判断しやすくなります。

今後の注目点　調査の具体的な範囲と、安全対策の検証結果

次に注目したいのは、正式な調査の範囲と、企業が示す対策を検証できる資料です。対象企業が追加されるかに加え、どの行為や説明が問題とされるのかも確認する必要があります。

現時点では、個別企業の違法行為や処分は確定していません。AIが想定外の行動をしたことと、企業が法律に違反したことは、分けて判断する必要があります。

AIに仕事を任せる範囲が広がるほど、企業には具体的な説明が求められます。許可された範囲を守れるか、解けない仕事では止まれるか、事故後に経緯を追えるか。この3点は、利用者が製品を選ぶ際にも役立つ基準です。

関連ページ

責任をめぐる議論、常駐型AIの仕組み、個別の事故を併せて読むと、今回の調査の背景をつかめます。

出典・参考資料

調査の最新状況については報道を、制度や各社の説明については一次資料を参照しています。独自計算、仮定に基づく試算、役割の整理については、本文でその旨を明記しました。

  1. Reuters：FTC opens probe into AI giants including Anthropic and OpenAI（2026年9月30日）
  2. Reuters：FTC chair suggests AI developers should be liable for conduct of agents（2026年9月25日）
  3. FTC：調査・法執行・規則制定の権限に関する説明
  4. FTC：生成AIへの投資・提携に関する調査（2024年1月25日）
  5. FTC：対話型AIの子ども・若者への影響に関する調査（2025年9月11日）
  6. OpenAI：The Hugging Face incident and the road ahead
  7. Anthropic：Improving our alignment and security practices
  8. OpenAI：Introducing dots（2026年9月29日）
  9. FTC：DoNotPayへの最終命令に関する発表

タグ

Related Posts

コメントを送信

You May Have Missed