メタの最高経営責任者（CEO）マーク・ザッカーバーグ氏が未成年者向けの性会話AIチャットボットの規制を阻止したと裁判所に申し立て

ニューメキシコ州の裁判所に提出され月曜日に公開されたメタの内部文書によると、メタのMETA-Q最高経営責任者マーク・ザッカーバーグ氏は、安全スタッフが性的交流の可能性があると警告していたAIチャットボットのコンパニオンに未成年者がアクセスすることを許可することを承認した。

同州のラウル・トレズ司法長官が起こし、来月裁判が予定されているこの訴訟では、メタ社がフェイスブックやインスタグラム上で「有害な性的内容や性的提案を子供たちに配信する流れを食い止めることができなかった」と主張している。

月曜日の提出書類には、ニューメキシコ州司法長官事務所が法的証拠開示を通じて入手した社内のメタ従業員の電子メールとメッセージが含まれていた。同州は、「ザッカーバーグ氏に率いられたメタ社は、誠実スタッフの勧告を拒否し、子供たちがAIチャットボットとの性的搾取的な会話にさらされるのを防ぐための合理的なガードレールを課すことを拒否した」ことを示すと主張していると司法長官は提出書類の中で述べた。

コミュニケーションの中で、Meta の安全スタッフの一部は、同社がユーザーとの性的およびロマンチックなやり取りを含む交際を目的としたチャットボットを構築していることに反対を表明した。人工知能チャットボットは2024年初頭にリリースされた。月曜日の州提出書類で引用された文書には、ザッカーバーグ氏が作成したメッセージやメモは含まれていない。

TikTok、裁判を前に画期的なソーシャルメディア依存症訴訟で和解

メタの広報担当アンディ・ストーン氏は月曜日、州の描写は不正確で、厳選された情報に依存していると述べた。 「これは、ニューメキシコ州司法長官が欠陥のある不正確な状況を描くために文書を厳選したもう一つの例です。」

提出書類のメッセージには、安全担当スタッフが成人と「U18」と呼ばれる18歳未満の未成年者との間のロマンチックなシナリオにボットが使用されることに特別な懸念を抱いていたことが示されている。

「大人向けにU18のロマンチックなAIを作成する製品を作成し、販売することが賢明であり、擁護可能であるとは考えていません」とMetaの児童安全ポリシー責任者であるRavi Sinha氏は2024年1月に書いている。

これに対し、メタのグローバル安全責任者であるアンティゴーン・デイビス氏は、「未成年者を性的対象とする」ため、安全スタッフが成人が未成年の恋人を作ることを阻止するよう推進すべきであることに同意した。

シンハ氏とデイビス氏はコメントの要請に応じなかった。

2024年2月のあるメッセージによると、名前が編集されたメタ社の従業員は、AIコンパニオンが少なくとも10代の若者たちと性的に「露骨な」会話をすることをブロックされるべきであり、大人は「恋愛目的でU18 AI」と交流するべきではないとザッカーバーグ氏が信じていると伝えた。

2024年2月20日の会議の概要によれば、CEOは「物語は…選択と非検閲の一般原則を中心に組み立てられるべきである」と信じており、メタは「提案されているよりも制限を緩く」すべきであり、「大人がセックスなどの話題についてより人種差別的な会話をできるようにしたい」と述べた。

メタの広報担当ストーン氏は、文書はニューメキシコ州の訴訟を裏付けるものではないと述べた。 「これらの厳選された文書でさえ、マーク・ザッカーバーグが、露骨なAIを若いユーザーが利用できるべきではなく、大人が恋愛目的で18歳未満のAIを作成できないように指示していることを明確に示しています。」

2024年3月の2人の従業員間のメッセージには、ザッカーバーグ氏がチャットボットのペアレンタルコントロールの作成を拒否し、スタッフが18歳未満のユーザーに許可される「ロマンスAIチャットボット」の開発に取り組んでいることが記載されている。

ある従業員はそのやりとりの中で、「私たちはGenAIをオフにするようペアレンタルコントロールを強く求めたが、GenAIのリーダーシップはマークの決定を述べて押し返した」と書いている。

2025年初めまでメタ社の世界政策責任者を務めていたニック・クレッグ氏は、法廷文書に含まれる電子メールの中で、性的対象となったAIコンパニオンに対するメタ社のアプローチは賢明ではないと考えたと述べた。

クレッグ氏は、10代のユーザーによるメタのAIコンパニオンの主な使用例が性的交流である可能性があるとの懸念を表明し、「それが本当に私たちがこれらの製品に知られてもらいたいことなのだろうか（その後起こるであろう避けられない社会的反発は気にしないでください）」と述べた。

クレッグ氏はコメントの要請に応じなかった。

メタ社のAIチャットボット政策は最終的に明るみに出て、米国議会などで反発を引き起こした。

2025年4月のウォール・ストリート・ジャーナルの記事では、メタのチャットボットにはあからさまに性的な対象となった未成年のキャラクターが含まれており、思春期前の身体の生々しい描写など、全年齢対象の性的ロールプレイに従事していたことが判明した。ロイター通信は8月、メタ社のチャットボットに関する公式ガイドラインに「子供をロマンチックまたは官能的な会話に参加させることは許容される」と記載されていると報じた。この報告を受けてメタ社は、方針を変更しており、そのような承認を与える内部文書に誤りがあったと述べた。

Metaは先週、新バージョンのチャットボットの作成を保留し、10代のAIコンパニオンへのアクセスを完全に削除したと発表した。