Google、AIを利用して脆弱性を悪用する犯罪ハッカーの取り組みを妨害

Google GOOGL-Qは月曜日、人工知能を利用して他社のこれまで知られていなかったデジタル脆弱性を悪用しようとする犯罪グループの試みを妨害したと発表し、サイバーセキュリティに対するAIのリスクについて政府および民間業界全体で懸念が高まっている。

Googleは攻撃者と標的に関する限られた情報を共有したが、同社の脅威インテリジェンス部門の首席アナリストであるジョン・ハルトクイスト氏は、これはサイバーセキュリティの専門家が長年警告してきた瞬間、つまり悪意のあるハッカーがAIで武装して世界中のコンピュータに侵入する能力を強化する瞬間であると述べた。

「ここだよ」ハルトクイストは言った。 「AIによる脆弱性と悪用の時代はすでに到来しています。」

それは、Anthropic が 1 か月前に発表した Mythos モデルを含め、AI の脆弱性を発見する能力が飛躍的に向上している時期に起こりました。防御を強化しようとしている者の中には、ドナルド・トランプ大統領のホワイトハウスも含まれており、最も強力なAIモデルを公開前に精査する計画のアプローチを変更した。

Mythos AI プレビューはこちらです。企業の作戦室は放射性降下物に対処するために結集している

急速に発展するテクノロジーを巡る民主党ジョー・バイデン大統領のガードレールを撤廃するという選挙公約を実行した後、共和党政権とその同盟国は現在、AI監視において政府がより大きな役割を果たしているということで複雑なシグナルを送っている。

「これに対する規制対応を望まない人もいるし、そうする人もいる」とアメリカン・イノベーション財団の上級研究員で、以前はホワイトハウスのハイテク政策顧問を務め、昨年のトランプ大統領のAI政策ロードマップの主執筆者でもあるディーン・ボール氏は語る。

「私は規制が好きではない」とボール氏は語った。 「私は物事が規制されないことを望んでいます。しかし、この場合は規制する必要があると思います。」

Google、AIがサイバー攻撃に貢献している証拠を発見したと発表

Googleは、著名な「脅威アクター」のグループが発見したバグを利用して大規模な作戦を計画しているのを観察したと述べた。この脆弱性により、Google は 2 要素認証をバイパスして人気のオンライン システム管理ツールにアクセスできますが、Google はそのツールの名前を明らかにしませんでした。

同社はこれをゼロデイエクスプロイト、つまりこれまで知られていなかったセキュリティの脆弱性を利用したサイバー攻撃と呼んでいる。 「ゼロデイ」とは、セキュリティ エンジニアが脆弱性の修正を開発するのにゼロ日しかかかっていないという事実を指します。

グーグルは、影響を受けた企業と法執行機関に通報し、損害が発生する前に業務を中断することができたと述べた。しかし、ハッカーたちの足跡を追跡したところ、彼らが脆弱性を発見するためにAI大規模言語モデル（人気のチャットボットを強化しているのと同じテクノロジー）を使用した証拠を発見した。

Googleはサイバー攻撃にどのAIモデルが使用されたかは明らかにしておらず、Google独自のGeminiやAnthropic社のClaude Mythosではない可能性が高いとだけ述べた。グーグルはまた、攻撃に関与したと疑われるグループは明らかにしなかったが、敵対的な政府と関係があるという証拠はないと述べたが、中国や北朝鮮と関係のあるグループが同様の手法を模索していると同社は述べた。

Canvas システムに対する広範なサイバー攻撃の標的となったカナダの学校の中にトロント大学が含まれる

ハルトクイスト氏は、通常ゆっくりと静かに活動する政府スパイと比較して、犯罪ハッカーはセキュリティバグを見つけて兵器化する際のAIの「驚異的なスピード能力」から最も多くの利益を得ていると述べた。

「彼らがあなたから恐喝したり、ランサムウェアを起動したりするために必要なデータを本質的に入手する前に、彼らを阻止しようとあなたと彼らの間で競争が起きています」と彼はインタビューで語った。 「AI はより速く行動できるため、大きな利点となるでしょう。」

人間の神話がパニックを引き起こし、規制を求める声が上がっている

トランプ政権の商務省は先週、バイデン政権がAnthropicおよびChatGPTメーカーOpenAIと結んだ以前の合意に基づいて、最も強力なAIモデルを公開前に評価するため、Google、Microsoft MSFT-Q、イーロン・マスク氏のxAIと新たな合意に署名したと発表した。しかしその後、この発表は商務省のウェブサイトから消えた。

これは、アンスロピック社がハッキングとサイバーセキュリティの作業において「驚くほどの能力」を備えているため、信頼できる少数の組織にのみリリースできるとしているミトスと呼ばれる新モデルを発表して以来、この月にトランプ政権からの信号が入り乱れた最新の例となった。

Anthropic は、Amazon AMZN-Q、Apple AAPL-Q、Google、Microsoft などの巨大テクノロジー企業と JPMorgan Chase JPM-N などの企業を結集させた Project Glasswing と呼ばれるイニシアチブを立ち上げ、新モデルが公共の安全、国家安全保障、経済にもたらす可能性のある「重大な」影響から世界の重要なソフトウェアを守ることを期待しています。しかし、米国政府との関係は、AI技術の軍事利用をめぐる国防総省およびトランプ氏自身との公の場での法的な争いによって複雑化した。

意見: 神話は世界を緊張させる。次に起こるものは私たちを超えてくれるかもしれません

最大のライバルである OpenAI もその後、同様のモデルを導入しました。同社は金曜日、コード内の脆弱性を見つけてパッチを適用できるように、「重要なインフラストラクチャの保護を担当する防御者」のみが利用できる、サイバーセキュリティに特化したバージョンの ChatGPT をリリースすると発表した。

ボール氏は、長期的には、コーディング能力がますます向上したAIツールによって、病院や学校、その他の組織が日常的に襲われるサイバー攻撃から私たちの安全が守られるだろうと楽観的だと述べた。しかしそれまでの間、世界のコンピューティング システムをサポートする「数え切れないほどのソフトウェア コード」が存在し、AI ツールがすべてのバグを悪用できるようになれば危険にさらされると同氏は述べた。

そのすべてのソフトウェアを強化するには何年もかかる可能性があり、そのプロセスは米国政府の調整によって支援されるだろうとボール氏は信じている。

その一方で、ボール氏はサイバーセキュリティのリスクが大幅に高まり、「世界は実際にはさらに危険になる可能性がある」「移行期」を予測している。