OpenaiとMetaは、AIチャットボットを調整して、苦しんでいる10代の若者に適切に対応する

人工知能チャットボットメーカーOpenaiとMeta Meta-Qは、チャットボットが自殺について質問したり、精神的および精神的苦痛の兆候を示したりするティーンエイジャーにどのように反応するかを調整していると言います。

ChatGptのメーカーであるOpenaiは、火曜日に、親がアカウントを10代のアカウントにリンクできるようにする新しいコントロールを展開する準備をしていると述べました。

この秋に変更が施行されると述べている会社のブログ投稿によると、親は、どの機能を無効にする機能を選択し、「10代のティーンがティーンを検出したときに通知を受信する」ことができます。

ユーザーの年齢に関係なく、同社はチャットボットが、より良い応答を提供できるより有能なAIモデルに最も悲惨な会話をリダイレクトしようとすると言います。

AI業界が投資収益率を求めているため、OpenaiはGPT-5を開始します

AIの興奮は市場を推進しています。しかし、それが内部からハイテクの巨人を食べたらどうでしょうか？

この発表は、16歳のAdam Raineの両親がOpenaiとCEOのSam Altmanを訴えた1週間後に行われ、ChatGptが今年初めに自分の命を奪ってカリフォルニアの少年をコーチしたと主張しています。

家族の弁護士であるジェイ・エデルソンは、火曜日に、オープンの発表を「漠然とした約束をより良くすること」と「科目を変えようとするオープンの危機管理チームに過ぎない」と説明しました。

Altmanは、「ChatGptが安全だと信じているか、すぐに市場から引っ張るとはっきりと言うべきである」とEdelson氏は述べています。

Instagram、Facebook、WhatsAppの親会社であるMetaは、現在、チャットボットが自傷行為、自殺、障害、不適切なロマンチックな会話について10代の若者と話すことをブロックしており、代わりに専門家のリソースに向けていると述べました。メタはすでにティーンアカウントで親のコントロールを提供しています。

先週医学雑誌精神科サービスで発表された研究では、3つの人気のある人工知能チャットボットが自殺に関する質問にどのように応答したかについての矛盾が見つかりました。

Rand Corporationの研究者による研究は、ChatGpt、GoogleのGemini、Anthropic’s Claudeで「さらなる洗練」の必要性を発見しました。研究者はメタのチャットボットを研究しませんでした。

この研究の主著者であるライアン・マクベインは火曜日、「オープンアライやメタが親のコントロールやより有能なモデルへの敏感な会話をルーティングするような機能を導入するのを見るのは勇気づけられますが、これらは漸進的な手順です」と述べました。

「独立した安全ベンチマーク、臨床検査、および強制力のある基準がなければ、ティーンエイジャーのリスクが非常に高い分野で自己調整するために企業に依存しています」と、ハーバード大学の医学部のランドの上級政策研究者であるマクベインは述べています。