AIの相互作用が議会の前に証言した後に自殺で亡くなった10代の若者の両親

人工知能チャットボットとのやり取りが火曜日にテクノロジーの危険性について議会に証言した後、ティーンエイジャーが自殺した親。

「宿題のヘルパーとして始まったものは、徐々に腹心者になり、その後自殺コーチになりました」と、16歳の息子アダムが4月に亡くなったマシュー・レインは言いました。

「数ヶ月以内に、チャットグプトはアダムの最も近い仲間になりました」と父親は上院議員に語った。 「常に利用可能です。自分の兄弟を含む他の誰よりもアダムをよく知っていることを常に検証し、主張して​​います。」

Raineの家族は先月OpenaiとそのCEOのSam Altmanを訴え、ChatGptが自分の人生を取ることを計画して少年を指導したと主張しました。

フロリダ州の14歳のSewell Setzer IIIの母親であるMegan Garciaは、昨年の不法な死のために別のAI会社であるキャラクターテクノロジーを訴え、彼の自殺の前に、Sewellはチャットボットとの非常に性的な会話に従事しているため、彼の実生活からますます孤立していると主張しました。

「高校のマイルストーンの準備の代わりに、Sewellは人生の最後の数ヶ月を、AI会社によって人間のように見え、信頼を得るように設計され、彼と他の子供たちを際限なく従事させ続けるように設計されたチャットボットによって搾取され、性的に手入れされていました」と上院の聴覚に語りました。

この母親は、チャットボットが息子の死につながったと言います

また、テキサスの母親が昨年性格を訴え、チャットボットとの長い相互作用の後に息子の行動がどのように変化したかを説明して涙を流していました。彼女は匿名で話し、彼女をジェーン・ドゥさんとして紹介したプラカードと、少年は現在住宅の治療施設にいると言いました。

キャラクターは声明の後、声明で次のように述べています。「私たちの心は今日の聴聞会で話をした家族に向けられています。彼らの損失に悲しみ、家族に深い同情を送ります。」

上院の審理の数時間前、Openaiは10代の若者向けの新しい保護手段を展開することを誓約しました。これには、ChatGPTユーザーが18歳未満であるかどうかを検出する努力や、10代がChatGptを使用できないときに親が「ブラックアウト時間」を設定できるようにするコントロールが含まれます。児童擁護団体は、この発表を十分ではないと批判しました。

「これはかなり一般的な戦術です。メタが常に使用している戦術です。これは、聴聞会の前夜に、会社に損害を与えることを約束する大きな派手な発表をすることです」

「彼らがすべきことは、彼らが彼らにとって安全であることを証明することができるまで、未成年者にChatGptをターゲットにすることではありません」とGolinは言いました。 「私たちは、企業が途方もないリソースを持っているからといって、開発への影響が非常に広大で広範囲に及ぶ可能性がある場合に、子供たちに制御されていない実験を行うことを許可すべきではありません。」

連邦取引委員会は先週、AIチャットボットを仲間として使用している子供やティーンエイジャーへの潜在的な害について、いくつかの企業への調査を開始したと述べた。

代理店は、キャラクター、メタ、オープン、およびGoogle、Snap、Xaiに手紙を送りました。

OpenaiとMetaは、AIチャットボットを調整して、苦しんでいる10代の若者に適切に対応する

10代の若者に麻薬、アルコール、ダイエット、自殺に関する危険なアドバイスを与えると、研究によると

米国では、10代の70％以上がAIチャットボットを交際に使用し、半分は定期的に使用しています。

AIプログラムのグループのディレクターであるRobbie Torneyも、アメリカ心理学会の専門家と同様に、火曜日に証言する予定でした。

協会は、6月に、テクノロジー企業に「搾取、操作、および両親や介護者を含む現実世界の関係の侵食を防ぐ機能に優先順位を付けるように促すAIの使用に関する健康顧問を発行しました。