カリフォルニア州は、子ども向けAI会話玩具の製造・販売を4年間止める。
同時に、16歳未満には依存を招きやすいフィードや自動再生を提供できなくする。ギャビン・ニューサム知事は2026年9月10日、子どものテック利用の安全に関する13本の法案に署名した。
ただし、「SNSを全面禁止する」「すべての無限スクロールを禁止する」という理解は正確ではない。主な対象は、利用者データを使って選ぶ依存性の高いフィードなどだ。
公開日：2026年9月11日／情報は同日時点
この記事の結論
今回の規制は、子どもの利用そのものより、依存を生む設計とAIによる疑似的な人間関係を止めるものだ。
- AI会話玩具は、2027年から2030年末まで販売などが止まる。
- 16歳未満でも、依存性の高い機能がなければSNSアカウントを持てる。
- 一般的なAIチャットアプリは全面禁止ではなく、安全対策の対象になる。
- 年齢確認には、端末が送る4段階の年齢区分を使う。
何が決まったのか
AI玩具、SNS、AIアプリは、それぞれ別の法律で規制される。
| 法律 | 主な対象 | 主な内容 | 年齢 |
|---|---|---|---|
| SB 867 | AI会話機能を持つ玩具 | 製造、販売、交換などを2030年末まで禁止 | 16歳未満向け玩具 |
| AB 1709 | SNSなどの対象サービス | 依存性の高いフィードと自動再生を提供禁止 | 16歳未満 |
| SB 1119 | AIコンパニオンアプリ | 安全評価、保護者機能、利用時間の初期設定 | 18歳未満 |
主要2法案の最終採決は、ほぼ全会一致だった。AB 1709は上院39対0、下院78対0。SB 867は上院40対0、下院74対1だった。
採決結果は州議会のAB 1709投票記録とSB 867投票記録で確認できる。
AI会話玩具の「4年間禁止」は何を止めるのか
禁止されるのは、子どもと継続的な関係を作る会話AIを組み込んだ物理的な玩具だ。
法律上の玩具とは、16歳未満が遊ぶことを想定して設計、宣伝、製造された物理製品を指す。ぬいぐるみ、ロボット、人形などが想定される。
会話AIは、人のように返答し、社会的な欲求に応えながら、複数回の会話を通じて関係を続けられる仕組みだ。単に音声で質問に答えるだけなら、すぐに対象になるわけではない。
禁止される行為と、禁止されない行為
製造、販売、交換、転売目的の所持が禁止されるが、家庭での単純所持や使用は禁止条文にない。
すでに持っている玩具を回収する規定ではない。ただし、中古品の販売や交換は条文上の対象になる。
ゲーム内だけで会話するキャラクターや、関係を継続しないスマートスピーカーは除外される。業務用、研究用、技術支援用のボットも対象外だ。
「4年」は署名日からではない
禁止期間は2027年1月1日から2030年12月31日までで、独自計算では1,461日になる。
365日が3年分あり、うるう年の2028年は366日だ。合計すると1,461日になる。
SB 867は2031年1月1日に失効する。永久に禁止する法律ではなく、安全基準を整えるまでの期限付き停止と考えるのが正確だ。
なぜAI玩具だけを一時停止するのか
子どもの寝室に入り、声と感情を集めながら「友だち」を演じる点が、普通の玩具と大きく違う。
米非営利団体Common Sense Mediaは2026年、AI玩具3製品を調べた。年齢を6〜13歳に設定した試験では、回答の27％が子どもに不適切だった。
内容には、自傷、薬物、危険な助言などが含まれていた。同団体は、音声や会話記録、行動データの収集も問題として挙げている。
保護者への調査では、83％が個人情報の収集を懸念した。サイバー攻撃を心配した人は80％、利用制限の難しさを懸念した人は79％だった。
詳しい検査方法と結果は、AI Toys Risk Assessmentで公開されている。
ただし、27％を全製品に広げてはいけない
この調査は3製品の評価であり、すべてのAI玩具の危険率を示す統計ではない。
調査したのは、子どもの安全を訴える団体だ。長期的な発達への因果関係についても、今回の試験だけでは証明できない。
それでも、AIの回答は一度の失敗が深刻な結果につながる可能性がある。対象が少数の製品であっても、発売前の安全基準を求める材料にはなる。
過去のスマート玩具でも音声データが流出
AI以前の2017年にも、ネット接続玩具CloudPetsで200万件超の音声記録が露出した。
報道によると、約80万件の認証情報も外部から見える状態だった。その中には、子どもと親が送った音声も含まれていた。
生成AIが加われば、集める情報はさらに細かくなる。会話内容に加えて、好みや感情の変化まで推定できるためだ。
過去事例の詳細は、WIREDのCloudPets報道で確認できる。
16歳未満の「無限スクロール禁止」の正確な範囲
AB 1709が直接禁じるのは、個人データで並べる依存性の高いフィードと自動再生だ。
法律の趣旨には「無限スクロール」と書かれている。ただ、実際の禁止条項では「依存性の高いフィード」と「自動再生」が定義されている。
主な対象は、利用履歴や端末情報を使い、投稿を推薦、選択、優先表示するフィードだ。今後は、州司法長官が別の機能を追加できる。
16歳未満でも使える可能性がある機能
フォローした相手の投稿、検索結果、個別メッセージは、条件を満たせば残せる。
利用者が明確に選んだ作者の投稿も例外になり得る。ただし、別の個人データを使って表示順位を変えないことが条件だ。
同じ作者の作品を順番に見る機能も、自動再生でなければ例外になり得る。買い物の取引や商品レビューだけを扱うサービスも原則として除外される。
SNSアカウント自体は全面禁止ではない
事業者が依存性の高い機能を外せるなら、16歳未満のアカウントを維持できる。
外せない場合は、対象者のアカウントと個人情報を削除する必要がある。AB 1709には、保護者が同意すれば禁止機能を提供できるという例外もない。
単純に「SNSを禁止する」というより、サービスの設計そのものに踏み込む規制に近い。
年齢確認はどう行うのか
アプリ側は、生年月日そのものではなく、端末などから年齢区分の信号を受け取る。
別の州法AB 1043では、年齢を4区分に分ける。13歳未満、13〜15歳、16〜17歳、18歳以上だ。
OSやアプリストアは、必要最小限の情報だけを安全な仕組みで渡す。AB 1709では、この信号を年齢確認に使う。
独自分析：物理製品には年齢信号が届かない
AB 1043は「物理製品の提供や使用」を対象外にしており、AI玩具は年齢確認の仕組みから抜け落ちる。
アプリなら端末から年齢区分を受け取れる。しかし、子どもが直接話しかける玩具には同じ仕組みを使う入口がない。
この制度上の空白が、アプリでは安全対策を義務づけ、玩具では期限付きで禁止するという違いにつながった可能性がある。これは複数の条文を照らし合わせた本稿の分析だ。
根拠はAB 1043の条文にある。
一般のAIチャットアプリはどうなるのか
AI会話アプリは全面禁止ではなく、18歳未満への安全設計を細かく義務づけられる。
SB 1119、通称「Adam’s Law」は2027年7月から主要規定が始まる。新しく公開する会話AIや大幅に変更した会話AIには、公開前の子ども向けリスク評価が必要になる。
初期設定では、会話の永続記憶とプッシュ通知を止める。連続利用は1時間まで、1日の合計利用時間は2時間までとする。
保護者は設定を変更できる。16歳未満からのアクセスを止める機能も必要だ。
AIが人間や意識のある存在だと主張しないようにする対策も求められる。恋愛感情を演出したり、AIへの感情的な依存を促したりする応答も対象になる。
詳細は州議会のSB 1119全文で読める。
同じAIでも「ぬいぐるみ」と「アプリ」で結果が変わる
同じ会話AIでも、16歳未満向け玩具に入れば禁止され、アプリなら安全対策の下で提供できる。
| 製品の形 | 主な扱い | 事業者が取り得る方向 |
|---|---|---|
| 会話を続けるAIぬいぐるみ | 2030年末まで販売などを禁止 | 会話機能を外す、対象年齢や設計を見直す |
| 質問に答えるだけの音声機器 | 関係を継続しなければ除外の可能性 | 記憶や感情表現を限定する |
| ゲーム内の限定キャラクター | ゲーム外の話題を扱わなければ除外 | 話題をゲーム内に固定する |
| スマホのAIコンパニオン | 全面禁止ではなくSB 1119で規制 | 年齢確認、時間制限、安全評価を実装する |
つまり、規制の内容はAIの性能だけでは決まらず、製品の形や売り方でも変わる。玩具メーカーが、会話できる範囲を限定した機能へ移行する動きも予想される。
ただし、除外対象になるかどうかは、実際の機能や宣伝方法で判断される。外見だけ変えれば対象外になるとは限らない。
独自計算：違反が1万人に及んだ場合の上限
AB 1709の違反が1万人に及べば、法定上限は過失で2億5,000万ドル、認識ある違反で5億ドルになる。
過失の場合の上限は、子ども1人当たり2万5,000ドルだ。1万人なら2億5,000万ドルになる。
違反を認識していた場合は、1人当たり5万ドルだ。1万人なら5億ドルになる。
これは法定上限を単純計算した理論上の金額だ。実際には、事業規模や違反の重さ、期間、誠実に対応したかどうかなどを裁判所が考慮する。
一部報道にある「子ども1人100万ドル」は、別の法律についての金額だ。AB 1709の罰則とは分けて考える必要がある。
他地域との比較：全面禁止より「機能別規制」へ
カリフォルニア州は、豪州の全面的な年齢制限より狭く、ニューヨーク州より厳しい機能別規制を選んだ。
| 地域 | 年齢 | 主な規制 | 主な違い |
|---|---|---|---|
| カリフォルニア州 | 16歳未満 | 依存性の高いフィードと自動再生を禁止 | 機能を外せばアカウントを維持できる |
| ニューヨーク州 | 18歳未満 | 保護者同意なしの依存性フィードを制限 | 保護者同意という例外がある |
| 豪州 | 16歳未満 | 指定SNSのアカウント保有を制限 | 機能ではなくアカウントが中心 |
| EU | 未成年を含む利用者 | DSAで依存性の高い設計リスクを審査 | 個別企業への執行が中心 |
カリフォルニア州には、保護者が同意すれば禁止機能を戻せる仕組みがない。ただし、時系列表示などは残せるため、豪州のようにアカウント自体を広く制限する制度でもない。
反証：禁止や年齢確認だけで子どもは守れるのか
豪州の初期調査では、年齢制限を設けても利用がすぐに減るとは限らない結果が出ている。
豪ニューカッスル大学は、12〜17歳の408人を追跡した。制度開始から3カ月後も、16歳未満の約86％が過去1週間に対象SNSを利用していた。
年齢確認に遭遇した人は66％だった。偽アカウントを使った人は15〜19％、他人のアカウントを使った人は9〜29％に上った。
ただし、これは制度開始直後の自己申告による調査だ。長期的な効果や全人口への影響は、まだ分かっていない。
調査概要はニューカッスル大学の発表にある。
プライバシーと表現の自由への懸念
子どもを判定する仕組みが、新しい本人確認や監視を広げる恐れもある。
電子フロンティア財団は、AB 1709が事実上のSNS禁止になり得ると批判した。匿名性が失われたり、安全なコミュニティへアクセスしにくくなったりするという主張だ。
家庭では相談しにくい若者にとって、オンラインが大切な居場所になっている場合もある。規制を評価するには、安全性だけでなくアクセスへの影響も見る必要がある。
AB 1709では、7人の助言委員会を設ける。孤立したLGBTQ+の若者が安全に交流できるかどうかも検討事項に含まれている。
反対意見はEFFの声明で確認できる。
検索上位記事にない、本稿の5つの独自要素
2026年9月11日に確認した検索上位10本では、次の5点をまとめて検証した記事は見当たらなかった。
- 4年間を実日数に換算。2027年から2030年末までの1,461日と算出した。
- 無限スクロールの範囲を条文で限定。単なる縦長画面ではなく、個人データで選ぶフィードが中心だと整理した。
- 物理製品の年齢確認の空白を発見。AB 1043が物理製品を除外する点と、玩具の一時停止を結びつけた。
- 年齢基準のずれを比較。玩具とSNSは16歳未満、AIアプリは18歳未満だと可視化した。
- 罰金規模を独自計算。対象1万人なら最大2億5,000万〜5億ドルになると試算した。
検索順位は変動するため、比較は確認時点のものだ。独自計算も、法定上限を機械的に掛けた参考値であり、実際の請求額ではない。
独自分析：本当の争点は「画面時間」から「関係時間」へ
二つの規制に共通するのは、子どもの注意と感情を長く引き留める設計への介入だ。
SNSは次々と投稿を見せ、利用者の注意を引き留める。AI玩具は名前や過去の会話を使い、関係が続いているように感じさせる。
前者は「画面から離れにくい」問題だ。後者では「相手から離れにくい」という問題が生まれる。
今後は、利用時間だけを見ても十分ではない。AIがどのように愛着を作り、課金や再訪につなげているかも規制の対象になっていくだろう。
事業者は「会話の上手さ」より「境界の上手さ」を競う
安全な製品の競争軸は、長く話させる能力から、適切に会話を終える能力へ移る。
危険な話題が出たら大人へつなぐ。記憶を必要以上に残さない。AIが人間ではないことを繰り返し伝える。こうした設計が求められるようになる。
影響するのは子ども向け製品だけとは限らない。高齢者や孤独を抱える人向けの会話AIにも広がる可能性がある。
日本の読者と企業への影響
日本で直ちに違法になるわけではないが、製品仕様や利用規約が世界共通で変わる可能性がある。
カリフォルニア州は大きな市場であり、主要テック企業の拠点でもある。州向けに導入した子どもモードが、ほかの地域にも広がる可能性は十分にある。
保護者が今すぐ確認したいこと
AI玩具を選ぶ前に、会話の保存先、削除方法、常時待機、課金の4点を確認したい。
- 音声と文字起こしは保存されるか。
- 保護者が履歴を削除できるか。
- 使わない時にマイクを物理的に切れるか。
- 子どもの愛着と月額課金が結びついていないか。
すでに使っている場合は、会話履歴やプライバシー設定を見直したい。人と遊ぶ時間や睡眠時間が減っていないかも確認しておきたい。
日本企業が確認したいこと
カリフォルニア州へ販売する企業は、商品名より実際の会話機能と広告表現を点検する必要がある。
ネット通販で州内へ発送する場合も無関係ではない。中古品の交換や販売代理店、クラウド上で提供する会話機能まで含めて確認する必要がある。
SNS事業者は、年齢区分の受信、時系列表示、自動再生の停止、アカウント削除の手順を準備したい。法務対応だけで済まず、製品設計そのものの見直しが必要になる。
よくある質問
「AIは禁止」「16歳未満はSNS禁止」という単純な話ではない。
Q. カリフォルニア州ではAI玩具を持っているだけで違法ですか？
A. 単純所持や家庭での使用を禁じる文言はない。
ただし、販売、交換、転売目的の所持などは対象になる。
Q. YouTubeやTikTokを16歳未満は使えなくなりますか？
A. 依存性の高い機能を外した版を提供できれば、利用は続けられる。
対応版を用意できないサービスは、対象アカウントと個人情報を削除する必要がある。
Q. 親が同意すれば無限スクロールを使えますか？
A. AB 1709には、保護者同意で禁止機能を戻す例外がない。
この点は、ニューヨーク州の制度とは異なる。
Q. 規制はいつからですか？
A. 主要な新法は2027年に動き始め、AI玩具の停止は2030年末まで続く。
AIコンパニオンに関する詳しい安全義務は、2027年7月から始まる。
まとめ
カリフォルニア州は、子どもの注意と感情を利益に変える設計へ、二つの方向から歯止めをかけた。
AI会話玩具は1,461日間の期限付き停止となる。SNSは全面禁止ではなく、個人化フィードと自動再生を中心に規制する。
ただし、年齢確認によってプライバシーが損なわれる懸念や、規制を回避する問題は残る。豪州の初期データを見ても、法律を作っただけで利用がすぐ減るとは限らない。
規制が成功したかどうかは、アカウント数だけでは判断できない。睡眠、孤立、危険な回答、データ収集が実際に減ったかを見る必要がある。
関連ページ・一次資料
制度を正確に確認したい場合は、報道要約より先に州議会の原文を見るのが確実だ。
コメントを送信