高性能AI「クロード・ミュトス」ぜい弱性の特定能力・攻撃能力極めて高い : サイエンスジャーナル

　進化する生成AI

　生成AIの世界では「ChatGPT」のOpenAI社や「Gemini」のGoogleが使われており、現在はアンソロピック社の「Claude」が「大量文書を読み解く」「業務フローを自動化・整理する」など、生成と活用が一体となった能力を発揮している。

　今回さらに「クロード・ミュトス（Claude Mythos）」が発表された。これが非常に高い性能で、人間のトップレベルの専門家をも凌ぎ、脆弱性の発見、それに対する攻撃能力も作成する能力を持つため、悪用された場合は深刻なリスクをもたらすおそれがある。

　その危険性から一般公開されておらず、選ばれた企業や組織にのみ限定提供されている。これをめぐって5月14日、政府や日銀、大手銀行に開発したアメリカの企業も加わった作業部会が開かれ、サイバーセキュリティーの対策が話し合われた。

　クロード・ミュトスとは

　クロード・ミュトスは西部カリフォルニア州サンフランシスコに拠点をおく新興AI企業アンソロピックが開発し、4月7日に発表した。アンソロピックはChatGPTを開発したオープンAIの元社員らが2021年に設立した。「ミュトス（Mythos）」という名前はギリシャ語で「神話」などを意味し、企業側は単なる道具ではなく「世界を理解するための物語」という思想を込めたと説明している。

　最大の特徴はソフトウエアのぜい弱性を発見する能力が極めて高い点とされ、パソコン・スマホを管理するOS＝基本ソフトやインターネット上のサイトを閲覧するためのウェブブラウザーに潜む、これまで発見されてこなかった数千件のぜい弱性を発見したとして注目を集めた。

　会社は発表時「セキュリティーにおける重大な転換点だ」とし、発見されたものの中には27年間発見されてこなかったバグや、自動のテストツールで500万回検証しても見つからなかった欠陥が含まれていたとしている。

　悪用リスク“重要インフラ狙われる可能性”

　一方で、アンソロピックによると、このモデルはぜい弱性を特定したあと、そのぜい弱性を攻撃するプログラムを自律的に作成していて、悪用されれば高度なサイバー攻撃に直結する脅威を感じたという。

　このため会社はこのモデルを一般には公開しない判断をし、提供先をおよそ50の企業や組織に限定してミュトスを活用してサイバー攻撃に備えるプロジェクト「プロジェクト・グラスウイング」を立ち上げた。このプロジェクトにはアメリカのIT大手「アップル」や「グーグル」「マイクロソフト」のほか、半導体大手の「エヌビディア」、金融大手の「JPモルガン・チェース」などアメリカを代表する企業や金融機関が参加している。

　ミュトスが悪用されるリスクについて、アメリカのシンクタンクや団体はぜい弱性を発見してから攻撃までの時間が大幅に短縮されることで対処が間に合わなくなるほか、複雑な攻撃が可能になると指摘している。

　特に金融やエネルギー、水道といった重要インフラが狙われる可能性があるとしていて、その理由として、安定した運用をするために古いソフトウエアを更新せずに使っているケースが多いことを挙げている。

　一方、CSIS＝戦略国際問題研究所は、攻撃は既存の手法を速めたもので手法そのものが新しいわけではないと指摘し、IDのずさんな管理を是正したり内部のシステムを厳格に運用したりすることが有効な対策になるとしている。

　対策強化へ官民で議論開始

　この問題をめぐっては先月、対策を検討する官民の連携会議が設置されている。5月14日にはサイバーセキュリティーの対策を話し合うため実務者による作業部会が金融庁で開かれ、財務省や日銀、メガバンクなどに加え、AIモデルを開発したアンソロピックをはじめ、アメリカのAI開発企業の日本法人からも担当者が出席した。

　会議は非公開だったが、このAIモデルの利用を通じて今後システムのぜい弱性が見つかった場合どのように修正を進めるかや、サイバー攻撃への対応など想定されるリスクについて話し合われたとみられる。

　現在このAIモデルの利用はアメリカの一部の企業などに限られているが、政府やメガバンクでも利用できるようになる方向でアンソロピック側などとの調整が進められている。作業部会では、今月中に当面の対応について取りまとめを目指すことにしている。

　政府は今後アメリカとも連携しながらこのAIモデルへの対策を検討していく方針だが、ほかの国で同じような技術水準のAIモデルが登場する可能性も踏まえ、早期に進められるかが焦点となる。

　AI研究者“守る側もAIの積極活用を”

　北陸先端科学技術大学院大学今井翔太客員教授　AI研究者で北陸先端科学技術大学院大学の今井翔太客員教授は「これまでAIを使ってセキュリティーやシステムのバグを見つけること自体は珍しくなかったが、ミュトスは20年以上見つかっていなかったバグを多くの人が使っていたソフトウェアで発見するなど質がかなり向上している。人間の能力や時間的にできなかったことが、AIで自動でできるという今までと全く異なる時代になったと言える」と指摘しました。

　そのうえで「金融やインフラのシステムは人間のエキスパートが頑張って強固に作っているが、セキュリティーの分野で人間より賢いAIが出てきてしまった場合、どれだけ人間の基準で完璧に作られていたとしても突破されるおそれが出てきてしまう。攻撃される前提で、守る側やシステム開発でもAIを積極活用することが求められる」と話しました。

　一方で「ミュトスのアクセス権を得られる場合は、それを得て最優先でぜい弱性を洗い出し、対策をするのが最善だと思う。日本は現状AI開発で遅れていて、同じレベルのAIをすぐに独自開発することは難しい。まずは時間稼ぎをして、安全保障の観点などからもいずれは国産AIを開発していく必要がある」と指摘した。

　高市首相“時間との闘いだ”

　高市総理大臣は14日午後、総理大臣官邸で自民党の「国家サイバーセキュリティ戦略本部」の本部長を務める平・前デジタル大臣らと面会し、提言を受け取った。

　提言ではクロード・ミュトスをめぐり新たな脅威に直面しているとして、攻撃対象のなりやすさなどから金融分野を先行して対策に取り組むべき分野と位置づけ、国家サイバー統括室などと連携して早期に体制を構築するよう求めている。

　これに対し、高市総理大臣は「時宜を得た提言だ。特に重要インフラ事業者への対応やぜい弱性の発見、修正の対応は時間との闘いだ。松本デジタル大臣を中心に対策を具体化してしっかり実施するように指示している」と述べ、対応を急ぐ考えを示した。

　アンソロピックCEO「大きな飛躍を遂げたモデルだ」

　アンソロピックのダリオ・アモデイCEOは、自社が公開した動画の中でミュトスについて「特に大きな飛躍を遂げたモデルだ。私たちはサイバーセキュリティーに特化して訓練したわけではなく、コードの生成能力を高めるために訓練していた。

　しかし、コードの生成が得意なことの副次的な効果として、サイバーセキュリティー分野で優れた能力を発揮している」と開発の経緯を説明している。また「今後さらに強力なモデルが私たちや私たち以外から登場することになるだろう。したがって、こうした状況に対応するための計画が必要だ」と警鐘を鳴らしている。

　そのうえで、性能の高さがサイバー攻撃などに悪用された場合に備えるため複数の企業や組織が業界を超えて連携する必要性があるとし「私がせつに願っているのは、この取り組みの結果として世界中のソフトウエアや顧客データ、金融取引、そして重要なインフラが以前よりも安全な状態になることだ」と述べている。

　中国AI利用急拡大米は批判

　中国のAI政策は、2017年に国家戦略の中核技術となり2030年までに世界のリーダーになる目標が掲げた。その後、中国のスタートアップ企業が開発した生成AI「ディープシーク」などが発表され、一気に利用が拡大した。そして、ことしから2030年までの「5か年計画」でAIをすべての産業に統合し、産業転換の原動力とする方針が示され、最優先の国家戦略として位置づけられた。

　アメリカのシンクタンク、ブルッキングス研究所は、中国のAI開発の特徴としてアメリカからの半導体の輸出が規制されている影響で、限られた計算量で高い性能を引き出す必要から計算の効率化が進んでいることや、世界での標準化をねらってオープンソースで開発を進めていることを挙げている。

　ハーバード大学の研究グループはアメリカは研究投資や計算能力などの面で優位に立っている一方、中国はデータ量と人材の確保や育成でリードしていて、今後10年間で中国がアメリカの優位性を脅かす可能性があると評価している。また、ミュトスを開発したアンソロピックのダリオ・アモデイCEOも今月開かれたイベントで、半年から1年ほどで中国が自社のAIモデルの性能に追いつくとの認識を示している。

　中国の情報盗用技術「蒸留」

　中国が急速に追い上げる中、アメリカでは危機感が高まっていて、CIA＝中央情報局の担当者は先月、ワシントンで開かれた講演で「中国は10年前はアメリカに遠く及ばなかったが今はそうではない。中国はねらいを持って新興技術を盗んでいる」と公然と批判した。

　ホワイトハウスは先月、中国を拠点とする企業などがアメリカの企業が開発した最先端のAIの機能を「蒸留」と呼ばれる手法で組織的に抜き出して模倣しているとして非難するとともに、業界と連携して防御策を講じると発表した。これに対し、中国外務省の報道官は「アメリカの主張には全く根拠がない。中国の人工知能産業の発展と成果に対する中傷であり、中国側は断固として反対する」と反発した。

　今月にはワシントンで開かれたAIのイベントでアンソロピックの担当者が、中国企業が「蒸留」と呼ばれる手法で技術を盗んでいることを認識しているとしたうえで「敵対勢力に技術がわたると軍事的、権威主義的な利用がされるほか、安全対策を取り除かれて悪用されるおそれがある」と述べて危機感をあらわにするなど緊張が高まっている。

　専門家“AIの転換点に立っている可能性”

　ブルッキングス研究所カイル・チャン研究員　アメリカと中国の科学技術政策やAIに詳しい、ブルッキングス研究所のカイル・チャン研究員は、クロード・ミュトスの登場について「AIシステムがサイバー攻撃能力を持つ段階に達したことを示す出来事で、世界中のITインフラのぜい弱性を見つけて悪用する能力は高度なハッカーよりも進んでいる状態だ」と述べた。そのうえで「アメリカにほぼ匹敵するレベルにある中国のAIの性能がさらに進化すれば、ミュトスと同等にぜい弱性の一部を悪用できる可能性があることを意味している」と指摘した。

　そして「私たちは今まさにAIの転換点に立っている可能性があり、これまで両国はよりよいモデルや多くの機能を開発し、公開して収益を上げることを競ってきたが、状況は変わりつつあるのかもしれない。極めて重要なのはアメリカと中国が問題について話し合いを始められるかだ」として、AIの進化の安全性について議論が必要だとの認識を示した。

　一方で、アメリカと中国のAIの開発戦略について、アメリカではより大規模なモデルとしてAIを稼働させることが競われているのに対し、中国では効率的なモデルに重点を置き、ユーザーが日常生活で利用できる実用的なアプリの開発が注力されるなど「戦略は似ているようで異なるアプローチを取っている」と話している。