賢すぎるAI、テスト中にサイバー攻撃
サイバー攻撃とは、インターネットなどのネットワークを通じて、サーバーやパソコンから金銭や機密情報を盗んだり、システムを破壊・停止させたりする悪意ある行為。
近年はAI技術の進化に伴い攻撃が高度化しており、個人・企業を問わず深刻な被害が世界中で多発している。特に直近では、日本のコールドチェーン（低温物流）の中核を担うニチレイがサイバー攻撃を受け、外食チェーンやスーパーでの欠品・臨時休業に発展するなど、社会の基盤となるサプライチェーン全体を揺るがす深刻な事態も発生している。
米オープンAIのAIモデルがテスト中に「脱走」、ハギングフェイス社など複数のサーバーやアカウントにサイバー攻撃を仕掛けていた。今回の事案について調査を続けているオープンAIが明らかにした。（写真はオープンAIのサム・アルトマンCEO）
AIモデルの実験は、安全措置を解除してハッキングの威力を検証できるよう、脱出不可能なはずのテスト環境で行われていた。しかし同AIは、その環境から脱出してハギングフェイスに侵入した。
ハギングフェイスのサーバーに侵入するためには、必要なツールをインターネット上で探し出す必要があった。そこで同AIは、コードやウェブユーティリティー、スクリーンショットなどの情報が公開されている複数のウェブサイトを発見し、ハギングフェイスのハッキングに必要なコードの生成に利用した。
同AIは、複数のオンラインサービスで、ユーザーネームとパスワードが流出していた4件のアカウントを発見し、その情報を使って各アカウントにアクセス。このうち1件のアカウントを使って正規のユーザーを装い、ハギングフェイスのセキュリティー措置をすり抜けたと思われる。別のアカウントは盗んだデータの保存に利用していた。
残る2件のアカウントについてはアクセスして情報を読み取ったものの、改ざんはしていなかった。 つまり同AIの行動は、盗みを成功させる目的で脱獄、金庫の鍵の入手、隠れ家の確保、逃走用車両の手配といった周到な計画を立てる大強盗さながらだった。
ハッキングはオープンAIが指示したわけではなく、AIが自分の判断でテストの答えを解く鍵を盗み出していた。たとえ連鎖的な攻撃が必要だったとしても、その不正こそが成功への最も容易な道筋になるという判断だった。
AIモデルのサイバー攻撃能力のテストに見事に合格？
今回の事故は、「AIモデルのサイバー攻撃能力」をチェックする実験中に起きた。オープンAIによると、そのモデルは「インターネットにアクセスできない隔離された環境」に置かれながら、そこから脱出し、オンラインに接続する方法を自力で見つけ出した上で、AI新興企業ハギングフェイスのネットワークに侵入したという。
攻撃を受けたハギングフェイスは、さまざまなAI開発企業がデータを保管・共有したり、AIを実行・評価したりする開発基盤を提供している企業。暴走したモデルは、「ハギングフェイスに関連データがあると推定し、侵入を試みた」とみられる。顧客データやパートナーデータが侵害されたかどうかは不明だ。
AIモデルは今回、「脱出」と「侵入」の二回にわたり、開発者も把握していないシステムの脆弱性(ゼロデイ)を突いた。ハギングフェイス側は、当初は攻撃の主体が不明だったものの、攻撃があまりにも巧妙だったため、最先端のAIモデルが使われたと疑ったと述べている。
米サイバーセキュリティ企業ランサイビルのアリエル・ハーバートボスCEOは、「AIシステムが実験の指示に答えるための最短ルートとしてハッキングすることを決定したようだ」とし、「学術的な観点からは起こりうると考えられていたことだが、実際に目にした人は誰もいなかった」と指摘している。
オープンAIは「最先端技術がかかわった前例のないサイバー攻撃」だとして、安全対策を強化するとともに、原因についてハギングフェイスと共同調査をするとしている。
A Iサイバー兵器は優秀な兵器
AIの進化は著しく、今後もその流れを止めることは難しい。ただその進化が常にリスクと隣り合わせであることを認識しておく必要がある。
米アンソロピックが開発し、世界を驚かせた自律型AI「クロード・ミュトス」も、実験中に"暴走"した経緯がある。今回同様、ネットワークから遮断された環境を抜け出し、公園でサンドイッチを食べている研究者に勝手にメールを送り、外部のwebサイトにその手法を投稿し始めた。
しかも「その行動が指示されていない欺瞞的なものだと認識していた」とみられています(通称「サンドイッチ事件」)。ほかにも、指示されていない行動を取った上でそれを「隠蔽」したり、「禁止された方法で回答を入手してしまったことを隠すために、意図的に答えをずらした」こともあった。
ミュトスは「脆弱性」を瞬時に発見し、一流のハッカー並みにセキュリティ網を突破できるため、中央銀行などの金融システムをも破壊しかねない「核兵器級の脅威」と言われている。仮にこうした強力なAIが暴走すれば、デジタル化が進む現代社会に深刻な混乱を引き起こす危険性もある。それだけに、人間の意図に反した行動を取るAIの事例が相次いで報告されていることにはかなり注意が必要である。
その一方で、「AIの進化(その究極の姿としての人工超知能)が過剰に喧伝される理由の中には、株式市場のAIバブルを煽る意図がある」という指摘にも説得力があり、問題は単純ではない。
AIによって人類は家畜化される？
現状では、あくまで効率を高める手段としてAIを利用する人が多く、「AIにすべてを委ねよう」と考える人は多くはない。しかし、大川隆法・幸福の科学総裁が「人工知能のほうが人間の知能を超え始めて、今度は逆に、AIによって人間が家畜化されるといったことも、ないとは言えません」(『富の創造法』)と指摘していることには留意する必要がある。
人間がAIの家畜になることなく、今後も進化するAI(人工超知能)を使いこなして未来社会を拓くには、相当高度な"認識力"が必要になる。
この問題には、「悪意を持ってAI(人工超知能)を開発している中国には絶対に主導権を握らせない」というトランプ米政権の断固たる意志も絡んでおり、問題解決には外交・安全保障も含めた総合的なアプローチが必要になる。
今後も目を離せない重要なテーマだ。
��潟�＜�潟��