市場は火曜朝の数十億ドルの流出とほぼ同じ速さで回復したが、偽画像と、それを拡散させた主に偽アカウントがその日の市場全体の結果にどれだけ影響を与えたかは不明だ。 また、ファンドが株式を売買するたびに投資家に請求される多くの退職基金など、ファンドに適用される手数料の形でどれだけの資金が消えたのかも不明だ。
株式市場の変化のほとんどは、おそらく人間が大惨事の可能性を懸念してパニックボタンを押したことによって生じたものではありません。 ほとんどの株式は人間によって取引されていません。 月曜日にS&Pを暴落させたり、反発させたりしたような大規模な動きは、あらゆる方向から情報を集めて評価を実行する別の種類のAIによって管理されている。
しかし、この状況は人間が完全にいないわけではありませんでした。 誰かがこれらの画像を Midjourney または同様の AI ベースの画像ジェネレーターに注文しました。 誰かがそれらをソーシャルメディアに投稿しました。 おそらく誰かが市場の暴落を始めたのだろう。
しかし、それらの人間の中に、この出来事にとって重要な人物は一人もいませんでした。 半日以内のコーディングで、現在のニュースを精査し、もっともらしい災害の画像を並べてソーシャル メディアに載せ、数千、数万のリツイートで宣伝する危機ボットを作成することは完全に可能です。 。 およびリンクを作成し、明らかに権威のあるアカウントでそれらをプッシュし、株式市場、債券市場、商品市場、または経済の他のほぼすべての側面を操作するボットからの応答を引き起こすようにカスタマイズされた方法でそれらを売り込みます。
定期的に、ランダムに、または対象を絞った機会に行うことができます。 彼らは、これら 2 つの画像よりもはるかに説得力のある方法で、そして反論するのがはるかに困難な方法でそれを行うことができました。 月曜日に起こったことが試験的な気球であれ、サイバー戦争であれ、あるいは誰かがただおならをしただけであれ、私たちはその行動の結果を非常に真剣に受け止めるべきです。
2 つの偽の、簡単に論破された画像により、5,000 億ドルが消えました。 次回は、画像がより信頼できるものになり、配布がより信頼できるものになり、効果がより持続する可能性があります。
また、AI によって引き起こされる将来の損害が経済に限定されるということもありません。 2016年と2020年にはいくつかの悲惨な警告があったにもかかわらず、これらの選挙では、改変された音声を使用した「ディープフェイク」ビデオや音声記録はほとんど使われていなかった。 2024 年にはそうではありません。それに賭けてもいいでしょう。
以前は少なくともほんの少しの知識と数時間の努力が必要だったすべてのことが、今ではずっと簡単になりました。 実際、一般の詐欺師は、電話番号だけでなく、友人や親戚から電話をかけてきて、どうしても現金が必要な理由を説明する人の声を詐称することもできるほど簡単です。
次回、誰かが 2012 年のようなテープを作成するとき、 ミット・ロムニー 億万長者の寄付者に勇気を注ぎ、あるいは ドナルド・トランプの 2016 年の「アクセス ハリウッド」ビデオ、それが本物かどうかどうやってわかりますか? 候補者は、どんな不愉快な暴露も偽物であると宣言するだけです。 もし誰かが今日フォックスニュースに、ジョー・バイデンが10億ドルと引き換えに台湾を放棄するという中国との協定を結んだことを示すと称するビデオを送ったら、彼らはそれを放映しないと思いますか? 彼らがハンター・バイデンのラップトップをソースとして作成できるフィクションを想像してみてください。
十分な時間があれば、専門家は画像、ビデオ、または音声記録が偽物であるかどうかを判断できますが、それらが広く拡散する前に判断することはできません。 すべての反論には、さらに多くの捏造が反論される可能性があります。 そして、世界中のすべての誤りが暴かれたとしても、それらの偽物を信じることにイデオロギー的な関心を持つ人々を揺るがすことはなく、また、それらの偽物の拡散を阻止することもできません。
月曜日に起こったことはあまりにも早く過ぎたので、見逃しがちで、無視するのはさらに簡単でした。 私たちにもそれをする余裕はありません。
先週、AI企業のリーダーたちが議会に出廷したとき、彼らは実質的に規制されることを懇願した。
現在、人間は、ニュースサイクルを支配している大規模モデルで目的が限定された AI の背後にあるコードを作成し、理解しています。 しかし、たとえそれがあったとしても、これらのシステムが供給された何百万、あるいは何十億もの文書の相互作用に基づいて下す決定を人間が理解することは不可能です。 コードは他の AI システムによって作成および変更されるため、間もなく、私たちの理解はコード自体にまで及ばなくなるでしょう。
これらのシステムによる脅威は、遠い将来の懸念ではありません。 これはスカイネットやロボットの反乱を伴う SF のシナリオではありません。 これはまさに今ここで起きている問題であり、これらのシステムはすでに何百万もの雇用を削減し、経済の方向性を変え、選挙の結果を左右するほど強力な力を持っています。 ハンマーと同じように、それらはツールです。 ハンマーのように、武器にもなります。
これらのシステムに何らかの規制を設けるまでは、好むと好まざるにかかわらず、私たち全員が実験に参加していることになります。 その規制をすぐに導入しなければ、手遅れになる可能性が非常に高くなります。
WarTranslated の Dimitri は、ウクライナ侵攻中に何時間にもわたるロシアとウクライナのビデオと音声を翻訳するという重要な作業を行ってきました。 彼はロンドンからマルコスとケリーに加わり、さまざまな情報源を調べてこの研究をどのように始めたかについて話します。 彼は、英語圏の視聴者向けに情報を翻訳している数少ない人物の 1 人です。 ディミトリさんは戦争が始まった当初から追跡しており、戦争が進むにつれて言語と派遣が進化するのを観察してきました。
Be First to Comment