米アンソロピックCEO“AI開発ペース減速させる必要”
アメリカのAI新興企業アンソロピックのCEOは、AIが急速に進歩し、人間が制御する能力を上回る可能性があるとして、開発を減速させる必要があるとの考えを示した。
アンソロピックのダリオ・アモデイCEOは12日、自身のブログに「AIモデルの能力を向上させるペースを落とさなければならない」と投稿し、業界全体で開発を減速させる必要性を強調した。
その背景として「AIは非常に強力な技術で、深刻なリスクをはらむ。リスクの中には、AIシステムの制御喪失、サイバー攻撃、バイオテロへのAIの悪用、そして深刻な経済混乱などが含まれる」と指摘し、商業的な開発競争がリスクを深刻化させる可能性に危機感を示した。（写真はアンソロピックのCEOダリオ・アモデイ氏）
さらに、ことしの夏以降、AIの進歩が劇的に加速しているとして「このまま放置すれば、私たちがAIを理解し制御する能力を上回るおそれがある」と警鐘を鳴らしている。
最先端のAI技術をめぐっては、ことし7月、オープンAIが開発中のAIモデルが、他社にサイバー攻撃を仕掛け、重要な情報を取得したことが明らかになっている。
速すぎるAIの進歩に対して業界内でも懸念の声が高まっている。
なぜAI開発者が、AIの抑制を主張するのか？
9月8日には、オープンAIとアンソロピックが開発に突き進んでいる「超知能」＝スーパーインテリジェンスは、人々の命を奪いかねないとして、アンソロピックに所属する研究者が退社を表明し、大きな話題となった。
一方で、企業が開発を減速しても、中国などとの開発競争が激しさを増す状況は変わらず、業界や世界全体で足並みをそろえて減速することは容易ではないとの見方も出ている。
問題は中国だけではない。インターネットという一つの世界の中では、資本主義者、共産主義者、社会主義者、原理主義者、ディープステート、犯罪者など、多種多様な主義主張の違う国、団体、人が利用する。
それぞれの中で、安全保障を目的としてAIを利用しようとすれば、いかに自分を守りながら、相手を効率的に攻撃するかに特化するはずであり、今回のイラン戦争でホルムズ海峡とバブ・エル・マンデブ海峡を封鎖することが、対アメリカ戦で最大の効果的手段であることは、AIを利用して確認したと考えれば理解できる。
また、現在問題になっている、闇バイトやカンボジアなど東南アジアを拠点とした特殊詐欺集団などは「いかに効率よく捕まらずに、利益をあげるか」が、周到に計画されている。これもAIによるものと考えることができる。
こういった世界の現状を考えると、AIに何でも判断させるのは非常に危険なことがわかる。
自社のAI 兵器開発や監視活動など悪用事例 公表 対策講じる
アンソロピックは、自社が開発する生成AI「クロード」が兵器の開発や監視活動などに悪用しようとされた事例を今月10日に公表している。
報告書には、去年12月から先月までに確認された生物兵器の開発支援や詐欺、監視活動など7つの分野についての事例をまとめている。
例えば、生物兵器の開発支援などへの悪用は、「最先端のAIモデルが抱える最も深刻なリスクの一つ」としている。
その上で治療薬のない蚊が媒介するウイルス性の感染症「チクングニア熱」についての研究がある国の軍の研究機関も関係してAIを使って行われようとしていた事例など生物兵器の開発支援につながる事例は5つあったとしている。
個人や組織に対する監視活動への悪用については、イランに関連するユーザーが公開情報をもとに海軍の部隊を特定・追跡するために使用した事例などをあげている。
このほか、中国政府と関係があるユーザーがシリア軍に加わったウイグル人の特定・追跡に使っていた事例や、ミサイルやドローンなどを運用するシステムの開発などに使われた事例もあったとしている。
アンソロピックは悪用が確認されたアカウントを停止するなどの対策を講じたとしている。
また、AIモデルの能力が向上するにつれて、開発者などが安全性を高めるよう行動しなければリスクも増大するとした上で、「今後も不正利用を検知、防止する能力の向上に努める」としている。
オープンAIのCEOとイーロン・マスク氏“考えに賛同”
「オープンAI」のサム・アルトマンCEOは、12日、自身のXに投稿し「ダリオの言うように、最先端技術の進歩をペース配分していく必要があるという意見に賛成する。これはここ数週間、オープンAIで議論してきた主要なテーマの1つだ。私たちも同様の取り組みを行う」と同調する姿勢を示した。
またAIの開発も手がけるイーロン・マスク氏も12日、自身のXに「ダリオの言うとおりだ」と投稿し、最先端のAI開発を主導する企業のトップらは、アンソロピックのダリオ・アモデイCEOの考えに賛同している。
ライバル企業同士のトップの意見がそろうのは異例だと驚きが広がっている。
特にアンソロピックとオープンAIは今、株式の上場を目指していて巨額の資金調達で開発が激しさを増すとの見方もあったからだ。それだけAIの急速な進歩に対する危機感が広がっているのだと思う。
「異例の強いメッセージ」 鍵は中国か
鍵を握るのが中国の存在で、アンソロピックのCEOは開発を減速しすぎると中国が先行して、重大な安全保障上のリスクが生じるともしている。
今月下旬に予定される米中首脳会談でもAIは議題の1つとされていて、企業だけでなく国家間で連携できるかが問われることになる。
アンソロピックの報告書によると、中国のAI企業ムーンショットAIが開発した「Kimi」では、例えば10日間で約30万件の利用者のリクエストがアンソロピックに転用され、クロードで処理されていたという。つまり、利用者はKimiを使ったにもかかわらず、実際にはクロードの回答を受け取っていた。
その中で、人民解放軍と関係しているとみられるユーザーが、軍の施設などを含む成都市内に設置された監視カメラで、人々が異常な行動をとっているかどうかをKimiに分析させた。しかし、その情報がクロード側にも送信されていた。
また、アリババやムーンショット、ディープシークといった中国勢が、不正につくられた大量のアカウントなどを通してクロードにアクセスし、その出力を自社のAIモデルの訓練に利用する、いわゆる「蒸留」を行っていたことも判明した。
先行モデルを蒸留することで、開発時間の短縮とコストの削減が図れるため、米政府は、知的財産権の保護や安全保障の観点から、これを強く問題視。9月24日に控える米中首脳会談でも、最上位の議題に上がるとみられている。
「中国企業が産業規模で米AI蒸留」非難 中国は反発
アメリカの政府機関は、中国企業6社が、アメリカ企業が開発した最先端のAIの機能を「蒸留」と呼ばれる手法を用いて「産業規模」で抜き出しているとして、非難する文書を出した。
中国政府は「事実無根だ」などと反発していて、9月下旬に予定される米中首脳会談を前に議題の1つとされるAIをめぐり非難の応酬となっている。
アメリカのNSA＝国家安全保障局などの政府機関は、8日に発表した文書で、新興企業の「ディープシーク」など中国企業6社が、2024年以降、アメリカ企業が開発した最先端のAIの機能を「蒸留」と呼ばれる手法で抜き出していたとして非難した。
「蒸留」はAIに大量の質問をして回答を集め、その知識を別のAIに学ばせる技術で、文書のなかでは、中国企業が不正なアカウントなどを用いて追跡を回避しながらこれを産業規模で行い、「AIの開発期間の短縮とコストの削減という恩恵を受けている」と主張している。
これに対して中国商務省の報道官は9日談話を発表し「産業規模の蒸留という非難は事実無根だ」と反発し、「蒸留はAIの分野では相互学習の一般的な手法だ」としている。
そのうえで「アメリカが蒸留への打撃を名目に、中国のAI企業を封じ込める行動に出るのなら断固として対抗措置を講じる」としている。
これより先はプライベートモードに設定されています。閲覧するには許可ユーザーでログインが必要です。
��潟�＜�潟��