http://www.asyura2.com/16/warb19/msg/153.html
| Tweet |
格安の「AI搭載兵器」は新たな軍拡競争を巻き起こすのか？ 遂に人工知能を戦略の要とした国防総省
http://gendai.ismedia.jp/articles/-/50174
2016.11.10 小林 雅一 KDDI総合研究所リサーチフェロー 現代ビジネス
米国防総省が次世代の主力兵器として、AI（人工知能）を搭載した「自律型兵器」を開発しようとしている。いずれ実戦力となった暁には、兵士（人間）ではなく兵器が、自ら敵に狙いを定めて攻撃するかもしれない。
たとえば、人の命令に従うのではなく、自分で上空からテロリストを探して攻撃するドローンなどがそうだ。
●“The Pentagon's ‘Terminator Conundrum': Robots That Could Kill on Their Own” The New York Times, OCT. 25, 2016
上の記事によれば、米国防総省は最近、米国の軍事力の世界的優位性を維持するために、AIを軍事戦略の要に据えたという。
■核兵器から精密誘導兵器、そしてAI兵器へ
歴史を振り返ると、米国はこれまで2度に渡る根本的な軍事刷新（offset）を行ってきた。
最初は1950年代における「核兵器」の開発。これによって一度は（当時の）ソ連など東側諸国に対する戦力的優位性を築き上げたが、やがて（中国も含め）彼ら共産主義陣営も同じく核兵器を持つようになると米国の優位性は崩れた。
そこで1980年代以降、米国は2度目の軍事刷新を断行した。それはミサイルなど各種兵器の小型・高精度化による兵力の効率化である。たとえばレーザーやGPSなどで敵の位置を正確に捕捉して攻撃する「精密誘導兵器」などが、それに該当する。これらは別名「スマート兵器」とも呼ばれる。
が、これによる米国の優位性も今世紀に入ると崩れてしまった。つまりロシアや中国など他の軍事大国も今や、こうしたスマート兵器を随所に配備し、米国に引けを取らないレベルにまで達している。
そこで米国はまたも、抜本的な軍事改革へと乗り出した。今回、彼らは各種兵器に先端AIを搭載することにより、人間の認識力や操作能力では太刀打ちできないほど、高い精度とスピードを兼ね備えた自律型兵器を開発しようとしている。これを米国防総省は「3度目の軍事刷新（Third Offset）」と呼んでいる。
参照）http://gendai.ismedia.jp/articles/-/48682
たとえば国防総省が（米国の軍需・航空メーカーである）ロッキード・マーティンに発注した「LRASM（Long Range Anti-Ship Missile：長距離対艦ミサイル）」などが、それに当たる。以下に示す動画のように、標的となる敵艦を自ら特定し、これに突っ込んでいくLRASMは自律型兵器の典型だ。
Long Range Anti-Ship Missile - Lockheed Martin - LRASM
他にも、敵の潜水艦をどこまでも追跡する無人艇や、（冒頭で紹介した）上空から敵を発見・攻撃するドローンなど数々の自律型兵器が開発され、すでに使用テスト段階に入っている。
■「ケンタウロス戦」とは何か？
ただし、これら新兵器について米国防総省は「敵を攻撃するという最終的な決断を下すのは、兵器ではなく兵士（人間）」とする公式見解を明らかにしている。これを彼らは「ケンタウロス戦（Centaur Warfare）」と呼ぶ。
ケンタウロスとはギリシャ神話に登場する「半神半馬の怪物」だが、この場合には「兵士（人間）と自律型兵器（AI）が協力して戦うスタイル」を意味する。
そこには勿論、「兵器が自身の判断で人間を殺すことが本当に許されるのか？」という倫理的な問題もあるが、それ以上に本質的なのは、現時点におけるAI（人工知能）の技術的な限界にあるという。
と言うのも、いわゆる「ディープラーニング」に代表される現在、最先端のAIは画像・音声の認識など、いわゆる「パターン認識」の分野では確かに兵士（人間）の能力を抜き去った。しかし、戦闘地帯のような不確実性に富み、複雑な状況下における判断能力では、現在のAIはとても人間にはかなわない。
従って、たとえAIを搭載しているからといって、そうした兵器に敵を攻撃する決定権を与えることはできない。その役割はあくまでも人間、つまり戦場にいる兵士や遠隔地から自律的兵器を操作する指揮官らが担うべきだ――これが国防総省の公式見解である。
■AIの画像認識力で「誤爆」はなくなる
では逆に「AIを搭載した兵器」側の役割はどのようなものになるのか？
これについては、最近、国防総省が実施した自律的ドローンの使用テストが、その役割を理解する上で分かり易い。このドローンには画像認識技術など先端AIが搭載されており、これによって上空からテロリストなど敵を発見する役割が課せられている。
米東海岸ケープコッドの海岸を中東の紛争地帯に見立てて行われた今回のテストは、模造のカラシニコフ銃を持った6人の男性らを、ドローンが正確に「（テロリストのような）戦闘員である」と判定できるかどうかなど、戦場におけるAIの認識能力を評価するために実施された。
テストの結果は素晴らしかった。ドローンは上空からテロリスト（に扮した男性ら）が乗った自動車を発見し、これを追跡した。また、壁の背後に隠れた敵を見つけることもできた。一方で、ビデオカメラを顔の辺りにかかげて、地面を這って移動しているカメラマン（に扮した男性）については、「これは（攻撃対象となる）戦闘員ではない」と正しく認識したという。
かつて2007年に米軍ヘリコプターがイラクの市街地で、通信社ロイターのカメラマンを含む十数人の民間人をテロリストと誤って認識し、上空から銃撃・殺害した映像がウィキリークスによって2010年に公開され、世界的な非難を浴びた。あのとき、仮に現時点の画像認識技術（AI）を搭載したドローンが使用されていたとすれば、ああした事件は回避できた可能性が高いことになる。
これが自律型兵器に課せられた役割である。つまり人間以上に高い画像認識能力を備えたAI兵器は、ビデオカメラで撮影した映像に写っている人間が敵か、あるいは無実の市民かを正確に判定できる。この情報に基づいて、相手を攻撃するか否かの最終的な決定を下すのは、あくまで人間（兵士）――これが「ケンタウロス戦争」の主旨である。
■完全自律型兵器は「作れるが、作らない」
こうしたやり方は一般に「Man in the Loop（制御の環に人間を残しておく）」と呼ばれる。逆に完全な自律型兵器のように、機械が自分で相手を攻撃する判断を下し、そこに人間が介在しない場合、それは「Man out of the Loop（制御の環から人間を排除する）」と呼ばれる。
冒頭のNYT記事によれば、国防総省の公式見解とは裏腹に、周辺の専門家の間では「今後、米軍の兵器がMan out of the Loopの方向に進化していく」との危惧が聞かれるという。
たとえば最近、数百人もの科学者や軍事専門家らが公開書簡の中で次のような警告を発している：
「最初はどれほど稚拙な知的兵器（AIを搭載した新型兵器）であっても、一旦それが実用化されれば、それが新たに世界的な軍拡競争を巻き起こすだろう。結果、最後には完全に自律的なロボット兵器が開発され、これが自らの判断で敵を殺すようになる。
それらはまた、製造コストが極めて安いので、（現在の米ロ中のような）軍事大国のみならず、（北朝鮮のような）ならず者国家や暴力的な過激派などにも入手可能になるだろう」
実際、彼ら専門家だけでなく、当の米軍関係者がそれを（ある程度まで）認めている。同じ記事によれば、米空軍の大将が最近、次のように語った。
「いつ、誰を殺すかを自分で決める、完全に自律的なロボット兵器を開発するだけの技術力を、我国は今から10年以内に持つだろう」
ただし、この直後に「もっとも我々は、そうした兵器を開発するつもりは毛頭ないが」と付け加えたという。
■テロリストが先に作ってしまったら？
そこで大きな問題となるのが、専門家らが指摘しているような「ならず者国家や過激派（テロリスト集団も含まれる）らが、自律的なAI兵器を手にする可能性」だ。そもそも何故、そんなことが可能になるのだろう？
それは最近の先端技術開発を巡る逆転現象のせいだ。つまり、シリコンバレーで開発された民生技術が、（かつては圧倒的優位性を誇った）国防総省の主導する軍需技術を追い抜いてしまったのだ。それは特に「パターン認識」に代表される最近のAI技術において顕著だ。
たとえば、米軍のF35戦闘機では、コックピットに音声認識システムが搭載されているが、その性能は民生技術よりも劣ると見られている。このためF35を操縦するパイロット自身が、「アップルやグーグルの音声認識システムを導入したほうが余程マシだ」と率直に認めているという。
このように、AI分野において民生技術が軍需技術を追い抜いてしまったとすれば、それはテロリストや過激派を含む誰もが超先端技術にアクセスできることを意味する。たとえば家電量販店で買ったスマホなど各種IT製品をリバース・エンジニアリングして、自律的なAI兵器をテロリスト集団らが自力で開発してしまう恐れがある。
もちろん戦闘機や潜水艦、大陸間弾道ミサイルなど大型兵器は無理だが、前述の「AIを搭載した自律型ドローン」程度の兵器であれば、軍事大国ほど資金力のない過激派集団でも十分、開発は可能だろう。
近い将来、そうした時代が本当に到来したとすれば、国防総省は「完全に自律的な兵器を開発する技術力はあっても、それを実際に作る意思はない」とする現在のスタンスを維持できるだろうか？
仮にテロ集団が米軍に先んじて、そうした奇怪な次世代兵器を開発してしまった場合、米軍もそれに対抗するため、同様に「完全な自律型兵器」の開発に乗り出すのではないか。
これが軍事専門家が懸念する「新たな世界的軍拡競争」の始まりである。
投稿コメント全ログ コメント即時配信 スレ建て依頼 削除コメント確認方法
スパムメールの中から見つけ出すためにメールのタイトルには必ず「阿修羅さんへ」と記述してください。すべてのページの引用、転載、リンクを許可します。確認メールは不要です。引用元リンクを表示してください。