シロナガス/星景写真と科学本のブログ

受信者としてのサイエンスブログ。「暮らしの中の星空」をテーマにした高知県内の星景写真、スタータイムラプスと、ポピュラーサイエンス/サイエンスノンフィクション(一般向け科学書)の書評。PENTAXで撮影しています。

書評「無人の兵団」

AI(人工知能)が搭載された「自律型兵器」が、攻撃目標を自ら判断・決定し、人を殺傷する――映画「ターミネーター」を彷彿とさせるその未来は、今、どこまで実現しつつあるのか。

自律型兵器の今を、軍事アナリストでもあり、過去には米陸軍の兵士としてアフガニスタンなどへの出征経験も有する著者が、多様な角度から浮き彫りにしていく。

 

多岐にわたる視点から

本書の論点は、非常に多岐にわたる。

AIの基本的概念、特にその威力を急激に高めたディープ・ラーニング技術についての概説。民生品のエアコン・サーモスタットなどに組み込まれたAIの挙動について。アフガンでの従軍経験。群制御(スウォーム・コントロール)が可能な軍事ドローン。サイバー空間でのAIの軍事利用と、株式市場におけるAI利用の類似性。対人地雷やクラスター爆弾など「禁止」された兵器にまつわる議論…。

インタビューは、米国・国防総省ペンタゴン)の中枢から、自律型兵器の反対派の論者まで幅広い。

著者は、軍事アナリストとして、この「自律型兵器」にまつわる議論を、多面的に取り上げる。

軍事的な安定性を考慮する中で、軍人のなかにも自律型兵器への根強い疑問の声があること、あるいは逆に、反対派の議論のなかにも、自律型兵器とは何かを巡る定義の定まらなさからくる、合意の難しさなども指摘される。

軍事アナリストとして、あくまで、自律型兵器を戦場で使用するということを必ずしも排除しないという立場の中からではあるが、500ページ超の分厚い紙幅を最大限に使い、非常に多岐にわたる視点を提供してくれる一冊となっている。

 

自律型兵器と人間

米軍人の中に、自律型兵器への反対論が根強くあるという指摘は、一見意外ではあるが、ある意味合理的でもある。コントロールに不安のある完全自律の兵器を、戦場に投入することは、友軍同士のフレンドリーファイアや民間人への攻撃などを起こす懸念があり、戦場に不安定性をもたらすのではなかという懐疑論が根強いのだ。

その一方で技術的には、特に、イスラエルが開発しいくつかの国へ輸出されている、ハーピーと呼ばれる自律型のドローン兵器など、現実の問題として、AIの兵器利用は進みつつある。

著者は、一つの結論として、自律型兵器と人間が共同するような、半自律的なシステムを提案する。それは、人間が、最終的な引き金を引くこと、あるいは少なくともその責任を負うことを想定する。

しかし、同時にAIの判断による自律が必要な場面も想定される。特にサイバー空間を舞台とした高速サイバー戦や、ミサイル防衛のイージスシステムなどでは、人間のオペレーターの能力を超えた判断スピードが求められ、この意味で自律を導入することは、避けられないのかもしれない。

兵器の自律について、どこで線を引き、どこまでを認めるのかは、AIを兵器に応用するという立場を前提とする限りには、非常に難しい問題となる。

 

本書では、自律型兵器が、理論上、人間の認知能力を超えて敵味方を正確に判断できると仮定すれば(見通しうる将来の話としては、非常に困難なタスクだと思われるが)、戦争での犠牲者を減らす効果が生まれるかもしれない、という議論があることが示唆される。

ただ、これまでの戦争の歴史を振り返れば、その時々の科学技術の兵器への応用は、結果的には、大量の犠牲者を生み、戦争をより悲惨なものへと拡大してきたと言わざるを得ないと私は考える。その筆頭が核兵器であり、その悲惨な結末は、ヒロシマナガサキで起こった惨状を想起すれば、反論の余地はない。確かに、太平洋戦争を終結させるために原爆の投下が必要であったという正当化の論は根強いが、人類への核兵器の使用は起こってはならないことが起こった事例である。

他にも、航空機や、毒ガス兵器、機関銃など、科学技術は、戦争の姿を大きく変えながら、その被害の規模を拡大してきたと言える。

兵器の運用効率が高まれば、結果として戦争が(少しばかり)「人道的」なものになり、犠牲者が減るというのは、机上の空論としかいいようがないのではないか。そこにはただ、「効率的」に人が殺されてしまう未来しかないだろう。

 

問われる倫理的問題

人間は、この資本主義的生産様式の社会の中で、「物」によって媒介されて互いに関係を取り結ぶ。これをマルクスの理論では物象化と呼ぶ。物象化された関係の中で、例えば、大工業における機械の導入によって、人間が労働から疎外され(つまり熟練工的な能力を失い)ながら、機械自身があたかも主体となり、労働者を従属させるような転倒した機械―人の関係が成立してしまったのが、現在の社会であるともいえる。人間は、機械の付属物のように機械の動きに合わせて働かなければならない。

AIの発展は、この機械と人間との転倒関係を――言い換えれば、人間の自己疎外を――究極まで推し進める可能性がある。

その極地にあるのが、AIを組み込んだ自律型兵器なのは間違いない。人間が作り出した「もの」が、自律的に人間を殺傷する未来は、どのような角度から見ても正当化されうるものではなく、倫理的な破綻を、人類に突き付ける。

人間はこの黙示録的な未来を回避することはできるだろうか。

 

しかし、AIの発展は止まることはないだろう。そうであるならば、AIと人間との関係をどう取り結ぶべきか。人類は、今、重大な岐路に立っている。そして、AIの発展のスピードを考えるならば、おそらく、議論を重ねる時間はあまり残されていない。

 

そういう意味で、この本が示した、人間がAIの自律の「ループ」の中に、あるいは上にいる、人間が責任を負う自律システムという一つの試論としての回答は、立場の違いを超えて、首肯せざるを得ない部分があるのかもしれない。

 

にほんブログ村 本ブログ 書評・レビューへ
にほんブログ村


書評・レビューランキング