AIの軍事利用が加速し、国連がオープンソース開発に懸念を示している

2024年08月27日 07時00分更新

文● 小島寛明

写真はイメージ　Daniel | Unsplash

　よく、戦争は技術の発展を加速すると言われる。

　2024年を生きる多くの人たちにとって、目の前にある戦争は、ウクライナ戦争と、イスラエルとパレスチナの軍事衝突だろう。この二つの戦争にも多くの新しい技術が投入されている。とくに人工知能技術（AI）の進展は、現在進行している戦争に多くの影響をもたらしている。

　こうした状況に懸念を表明しているのが、国連総会だ。国連総会は、加盟する193か国すべてが参加する組織だが、2024年7月23日付で国連事務総長名の報告書を発表した。この報告書はAIや5G、量子コンピュータなどアスキーにもよく登場する技術の軍事利用が進み、リスクが増大していると警告している。

　そのうえで、新しい技術の軍事利用への対策を協議するため、多国間の会議体をつくるよう促している。AIを使ったウェブサービスの利口さや便利さばかりに注目してしまうが、戦争とAIがもたらす新しいリスクにも目を向けたい。

イスラエルで実装されたハマス探査システム「ラベンダー」

　イスラエルはパレスチナを攻撃する際、「ラベンダー」と呼ばれるAIを使っている。ラベンダーは、一種の画像認識システムだ。ハマスのメンバーの可能性がある人物を抽出し、その人物をタグ付けし、各地にあるカメラを使って探し出す。ラベンダーがタグ付けした人物の居場所が判明すると、その場所が攻撃目標として設定される。

　この事実は、イスラエルのウェブメディア「+972マガジン」が2024年4月3日に公開した記事で初めて世に出たとされている。+972マガジンは、イスラエル軍内部の複数の協力者からこの情報についてインタビューし、記事にしたという。記事によれば、タグ付けされた人物が、家族のいる自宅に帰ったときに攻撃をリコメンドし、その人物の自宅は家族を含めて爆撃されたという。

　記事は、2023年10月7日にイスラエルとパレスチナの軍事衝突が始まってからしばらくの間、イスラエル軍側は、AIがリコメンドする対象を「ほぼ人間の判断」のようにとらえ、爆撃の対処を決めていたという。ただし、AIには必ずエラーがある。ラベンダーは10％程度の確率で、対象を間違える。この結果、イスラエルへの攻撃とは何の関係もない多くのパレスチナ人が爆撃の対象になってきた。

　イスラエル軍が使っているシステムから頭に浮かぶのは、中国で使われている監視カメラのシステムだ。国中に設置された監視カメラから画像認識システムを使って、スリや強盗を特定し、ごく短時間で身柄の拘束につなげているという。

　画像認識は、日本の生活でも身近になっている。スマホを使うときも、多くのスマホで本人確認に画像認識が使われる。パレスチナの爆撃対象を選択する技術は、日常生活と地続きのところにある技術が応用されたものだ。

ウクライナは「新技術の実験場」

　ウクライナ戦争でも、ウクライナやその同盟国、支援国が大量の新技術を投入し、「新技術の実験場」とも呼ばれている。

　ドローンや衛星で収集した画像だけでなく、ロシア軍の兵士たちの通信や携帯電話での通話などを傍受し、音声認識でテキストに変換し、画像とテキストなどを組み合わせた情報を基に、部隊の行動を決定している。

　最新のドローンは攻撃目標を設定した後は、自律的に行動するため、遠隔操作などの通信が必要とされない。このため、ロシアが使っている妨害電波に干渉されず、攻撃を遂行することができるという。一部の大企業では、意思決定にAIを使いはじめているようだが、情報収集と意思決定においては、軍事領域がはるかに先を走っている可能性が高いだろう。

　こうした新技術について、国連の報告書は、武力行使のハードルが下がるおそれがあると指摘している。ドローンは、一部の大国が保有するジェット戦闘機や航空母艦と比べてかなり安価だ。そうなると、G7のメンバーになっているような大国だけでなく、小国であっても保有する敷居は低い。さらに、テロ組織などの「非国家主体」であっても調達が可能な兵器だ。さらに、攻撃側にとっては、作戦が失敗した場合、ドローンが失われるかもしれないが、人命は失われない。このため、調達が容易で人が搭乗していない兵器は、武力行使の敷居を下げるかもしれない。

オープンソースへの懸念

　国連の報告書は5Gについても懸念を示している。5Gの登場で、大容量のデータが高速で送受信できるようになり、医療や交通などさまざまな分野でイノベーションが期待されている。しかし、「いつでもどこでも」高速、大容量の通信が可能な社会はリスクと背中合わせだ。国連の報告書は「いつでもどこからでも」攻撃にさらされるおそれがあると指摘している。

ツイートする

カテゴリートップへ