AI は有権者を誤解させる脅威を伴い、2024 年の政治的危機をもたらす

コンピューター技術者やハイテク志向の政治学者らは、安価で強力な人工知能ツールの登場により、間もなく誰でも有権者をだまして選挙を揺るがすほどリアルな偽の画像、映像、音声を作成できるようになるだろうと警告してきた。

出来上がった合成画像は、 しばしば粗野な、 説得力がない 特に、他の種類の誤った情報が非常に安価でソーシャルメディア上で簡単に拡散した時代には、作成に費用がかかりました。 AI などによる脅威 ディープフェイク いつも1、2年先のように思えました。

もういや。

洗練された生成 AI ツールにより、 クローン化された人間の声 と 最小限のコストで、超リアルな画像、ビデオ、オーディオを数秒で作成できます。 強力なソーシャル メディア アルゴリズムに結び付けられると、この偽のデジタル作成されたコンテンツは広範囲に急速に拡散し、非常に特定の視聴者をターゲットにする可能性があり、キャンペーンの汚いトリックを新たな低水準に引き上げる可能性があります。

2024 年の選挙キャンペーンと選挙への影響は、憂慮すべきものであると同時に大きいです。生成 AI は、ターゲットを絞ったキャンペーンのメール、テキスト、ビデオを迅速に作成できるだけでなく、次の目的にも使用できる可能性があります。 有権者を誤解させ、候補者になりすまし、これまでにない規模とスピードで選挙を弱体化させます。

サイバーセキュリティ企業ゼロフォックスのインテリジェンス担当副社長、AJ・ナッシュ氏は「われわれにはこれに対する準備ができていない」と警告した。 「私にとって、大きな進歩はオーディオとビデオの機能が登場したことです。 それを大規模に行い、ソーシャルプラットフォームで配布できれば、大きな影響を与えるでしょう。」

AIの専門家 有権者を混乱させたり、候補者を中傷したり、暴力を扇動したりする目的で合成メディアを作成するために生成 AI が使用されるという、数多くの憂慮すべきシナリオがすぐに発生する可能性があります。

候補者の声で有権者に間違った日に投票するよう指示する自動ロボコールメッセージ。 犯罪を自白したり、人種差別的な見解を表明したとされる候補者の音声録音。 誰かがスピーチをしている様子を映したビデオ映像や、 インタビュー 彼らは決して与えなかった。 候補者が選挙戦から脱落したと偽って、地元のニュース報道のように見せかけた偽画像。

「イーロン・マスクがあなたに個人的に電話して、特定の候補者に投票するように言ったらどうしますか？」 アレンAI研究所の創設最高経営責任者（CEO）で、昨年辞任して非営利団体AI2を設立したオーレン・エツィオーニ氏はこう語った。 「多くの人が耳を傾けてくれるだろう。 しかし、それは彼ではありません。」

2024年に立候補するドナルド・トランプ前大統領は、AIが生成したコンテンツをソーシャルメディアでフォロワーと共有している。 金曜日、トランプ大統領が自身の「真実ソーシャル」プラットフォームで共有したCNN司会者アンダーソン・クーパーの操作された動画は、この事件に対するクーパーの反応を歪曲したものだった。 CNN市庁舎 この一週間 with Trump は、AI 音声クローン ツールを使用して作成されました。

共和党全国委員会が先月公開したディストピア的なキャンペーン広告は、このデジタル操作された未来を垣間見ることができる。 その後に登場したオンライン広告 ジョー・バイデン大統領は再選キャンペーンを発表し、奇妙で少し歪んだバイデンの画像と「これまでで最も弱い大統領が再選されたらどうなるだろう？」というテキストで始まる。

AI が生成した一連の画像は次のとおりです。攻撃を受ける台湾。 経済が崩壊する中、米国では店頭が板で覆われている。 入れ墨をした犯罪者と移民の波がパニックを引き起こす中、兵士や装甲軍用車両が地元の通りを巡回している。

「ジョー・バイデンが2024年に再選された場合に起こり得るこの国の将来についてAIが生成した考察」とRNCは広告の説明を読んでいる。

テキサス州オースティンに本拠を置くサイバーセキュリティ企業フォースポイントのグローバル最高技術責任者ペトコ・ストヤノフ氏は、RNCはAIの使用を認めたが、極悪な政治活動や外国の敵対者を含む他の企業は認めないと述べた。 ストヤノフ氏は、米国の民主主義に干渉しようとするグループが信頼を損なう手段としてAIや合成メディアを利用するだろうと予測した。

「国際組織、つまりサイバー犯罪者や国民国家が攻撃したらどうなるでしょうか。 誰かになりすます。 影響は何ですか? 何か手段はあるでしょうか？」 ストヤノフ氏は語った。 「国際情報源からの誤った情報がさらに多く出てくることになるだろう。」

AI が生成した政治的偽情報は、2024 年の選挙に先立ってすでにオンラインで広まっています。 バイデンの改ざんされたビデオ トランスジェンダーの人々を攻撃する演説を行っているようだ AIが生成した子供の画像 おそらく図書館で悪魔崇拝を学んでいると思われる。

AI画像 トランプ大統領の顔写真を見せているようだ また、元大統領が業務記録改ざんの罪でマンハッタンの刑事裁判所に起訴され、起訴された際にソーシャルメディアの利用をしなかったにもかかわらず、一部のソーシャルメディアユーザーを騙した。 他の AI 生成画像も表示 トランプ氏は逮捕に抵抗したが、彼らの作成者は彼らの出自をすぐに認めた。

AIで作成された選挙広告に候補者にラベルを付けることを義務付ける法案が、イベット・クラーク下院議員（ニューヨーク州）によって下院に提出された。同議員は、合成画像を作成する者にその事実を示す透かしの追加を義務付ける法案の提案者でもある。

一部の州が提供している 彼ら自身の提案 ディープフェイクに関する懸念に対処したことに対して。

クラーク氏は、最大の懸念は、2024 年の選挙前に生成 AI が使用されて、暴力を扇動し、アメリカ国民を互いに敵対させるビデオや音声を作成する可能性があると語った。

「テクノロジーを追い続けることが重要です」とクラーク氏はAP通信に語った。 「ガードレールをいくつか設置しなければなりません。 人は騙される可能性がありますが、それにはほんの一瞬しかかかりません。 人々は自分の生活に忙しく、すべての情報をチェックする時間はありません。 AI が兵器化されると、政治の季節には非常に破壊的な影響を与える可能性があります。」

今月初め、ワシントンの政治コンサルタント業界団体が ディープフェイクの使用を非難した 政治広告では「合法的で倫理的なキャンペーンには居場所がない」「欺瞞」と呼んだ。

他の形式の人工知能は、データとアルゴリズムを使用してソーシャル メディア上の有権者をターゲットにしたり、寄付者を追跡したりするタスクを自動化するなど、長年にわたって政治運動の機能として使用されてきました。 キャンペーン戦略家やテクノロジー起業家は、最新のイノベーションが2024年にも何らかのプラスをもたらすことを期待している。

進歩的なデジタルエージェンシーであるオーセンティック社の CEO、マイク・ネリス氏は、次のように述べています。 チャットGPT 「毎日」と、このツールで作成されたコンテンツが後で人間の目でレビューされる限り、スタッフにもこのツールを使用するよう奨励しています。

Nellis の最新プロジェクトは、Higher Ground Labs と提携して、Quiller と呼ばれる AI ツールです。 資金調達メールの作成、送信、有効性の評価を行います。これはすべて、キャンペーンでは通常面倒な作業です。

「すべての民主党戦略家、すべての民主党候補者が副操縦士をポケットに持つという考えだ」と同氏は語った。

___