ファイル – 2024年10月にフロリダのミーガンガルシアが提供したこの日付のない写真では、彼女は息子のセウェルセッツァーIIIと一緒に立っています。 （AP、ファイル経由のMegan Garciaの礼儀）ミーガンガルシア/AP通信
フロリダ州タラハシー（AP） – 水曜日の連邦判事は、少なくとも今のところ、そのチャットボットが最初の修正によって保護されているという人工知能会社が行った議論を拒否しました。 Characher.aiの背後にある開発者は、同社のチャットボットが10代の少年に自殺するように押し付けたと主張する訴訟を却下しようとしています。
裁判官の命令により、法律専門家が言うことは、人工知能の最新の憲法上のテストの1つであると言う違法死亡訴訟が進むことを許可します。
訴訟はフロリダの母親であるミーガン・ガルシアによって提起されました。ミーガン・ガルシアは、彼女の14歳の息子であるスウェル・セッツァー3世がキャラクターの犠牲になったと主張しています。
ガルシアの弁護士の1人であるTech Justice Law ProjectのMemetali Jain氏は、裁判官の命令は、シリコンバレーが「市場に向けて製品を発売する前にGuardrailsを止めて考え、課す必要がある」というメッセージを送信すると述べました。
キャラクターの背後にある会社であるキャラクターテクノロジーに対する訴訟は、個々の開発者とGoogleを被告として指名しています。技術が職場、市場、関係を急速に再形成するため、専門家が潜在的に実存的なリスクであると警告しているにもかかわらず、この技術が職場、市場、関係を急速に再形成するため、それは、米国およびそれ以上の法律専門家とAIウォッチャーの注目を集めています。
「この命令は、AIが関与するいくつかのより広範な問題の潜在的なテストケースとして確かに設定します」と、フロリダ大学の法学教授であるLyrissa Barnett Lidsky氏は、修正第1条と人工知能に焦点を当てています。
訴訟は、彼の人生の最後の数ヶ月で、テレビ番組「Game of Thrones」の架空のキャラクターを模したボットとの性的な会話に従事したため、セッツァーは現実からますます孤立したと主張しています。彼の最後の瞬間に、ボットはセッツァーに彼を愛し、10代に「できるだけ早く家に帰るように促した」と交換のスクリーンショットによると。法的提出によると、メッセージを受け取った後、セッツァーは自分自身を撃ちました。
声明の中で、Characher.AIのスポークスマンは、訴訟が提起された日に発表された子供向けガードレールや自殺予防リソースなど、会社が実施した多くの安全機能を指摘しました。
「私たちはユーザーの安全性に深く関心を持っており、目標は魅力的で安全なスペースを提供することです」と声明は述べています。
開発者の弁護士は、チャットボットが修正第1条の保護に値すると言っているため、ケースを却下したいと考えており、そうでなければ判決はAI業界に「冷静な効果」をもたらす可能性があります。
水曜日の命令で、米国上級地区裁判官のアン・コンウェイは、被告の言論の自由の主張の一部を拒否し、チャットボットの出力が「この段階で」発話を構成することを保持するために「準備ができていない」と述べた。
Conwayは、キャラクターテクノロジーがユーザーの最初の修正権を主張できることを発見しました。彼女はまた、GarciaがGoogleがCharache.aiの開発を支援するという疑いのある役割について責任を負うことができるという主張で前進できると判断しました。
「私たちはこの決定に強く反対します」とGoogleのスポークスマンであるJoséCastañedaは言いました。 「GoogleとCharacter AIは完全に別々であり、GoogleはキャラクターAIのアプリまたはそのコンポーネント部分を作成、設計、または管理しませんでした。」
訴訟がどのように行われても、リドスキーは、この事件は「私たちの感情的および精神的健康をAI企業に委ねる危険性」の警告であると言います。
「ソーシャルメディアと生成的AIデバイスが必ずしも無害ではないということは、親に警告です」と彼女は言いました。
___ケイトペインは、AP通信/レポートのアメリカ州立大学ニュースイニシアチブの軍団メンバーです。 Report for Americaは、ジャーナリストを地元のニュースルームに配置して、潜入した問題について報告する非営利の全国サービスプログラムです。
(これはシンジケート ニュース フィードから自動生成された未編集の記事です。TechWire24 スタッフがコンテンツ本文を変更または編集していない可能性があります)
