AIと国際人道法: テクノロジーがいのちを救うとき、奪うとき

戦争であっても負傷した兵士、戦闘に無関係な一般市民、医療者は攻撃の対象としてはならず、区別し、保護する ―― こうした国際人道法の理念を平和時から普及することは赤十字の大事なミッションの一つです。今回の赤十字国際ニュースでは、そんな国際人道法が直面する現代的課題をご紹介します。

技術のブレイクスルーと人間のコントロール~バランスを失うとき~

日本赤十字社では2014年から献血ルームでの本人確認に生体認証(指の静脈認証)システムを導入しています。これにより献血会場ではペーパーレスで献血者のプライバシー保護と問診票の管理を行うことが可能となり、業務の正確性の向上とコストの一層の削減を図ることができました。海外の人道支援の現場でもテクノロジーの導入が多くの場面で進んでいます。例えば2016年、ヨルダンのシリア難民キャンプでは、瞳の虹彩(こうさい)認証による本人確認と決済システムが導入されたことで、クレジットカードや食糧引換券なしで食糧の入手が可能になりました。また、最近の赤十字の多くのプログラムでも、携帯電話の送金アプリ等を利用した受益者への「現金送金プログラム(Cash Transfer Programme)」が人道支援のメニューとして定番化しています。受益者自身が現金の使途を決めることで、その人にとって本当に必要なもの、地域経済への循環、そして人々の尊厳の保持といった面で効果が認められています。また、支援の担い手側にとっても、支援を最も必要とする人々の特定と食糧の公平な配分において、こうしたテクノロジーは不可欠のツールとなっており、従来の人道支援の在り方を変える「革新的なもの」として歓迎されています。人道支援に限らず、私たちの現代の日常生活を見渡せば、そうした例はいくらでも見つけることができるでしょう。

2019_41_photo1.jpg

©Juozs Cernius / IFRC
南スーダンではポリオワクチンプログラムの実施に携帯電話が不可欠のツールとなっている。

2019_41_photo2.jpg

©Victor Lacken / IFRC
エボラ出血熱アウトブレイクに対応するリベリア赤十字社のチーム。スマートフォンに症例を記録し、発症地のマッピングや対応方針の策定に活用する。

他方、テクノロジーへの過度の依存は、それが機能不全となったとき、一瞬にして人々を脆弱な状態に追い込むリスクもはらんでいます。今年、イエメンで1200万人以上の人々への食糧支援を担うWFPは、生体認証データを用いた食糧配給について反政府武装勢力との間で合意に至ることができず、一時、食糧供給自体を停止せざるを得ない事態に追い込まれました(背景には食糧供給を統制したい反政府武装勢力の思惑があるといわれています。WFP, “World Food Programme to consider suspension of aid in Houthi-controlled areas of Yemen”, 20 May 2019)。さらに意図的なテクノロジーの悪用例として、2010年、イランでは、同国の核燃料施設がコンピューターウィルス「スタックスネット」に感染し、一時原子力発電所の停止に追い込まれる事態が生じました。この事件は陸、海、空に次ぐ第四の空間「サイバー空間」における戦争「サイバー戦争」の幕開けとして注目される契機になりました(ウィルスの発信元は未だ定かではありません)。これまでは考えられなかった規模の不特定多数の人々のデータ管理を一挙に可能にする生体認証データ、また、地理的な制約を超え、匿名者から発信されるコンピューターウィルス…前者は意図しない転用・悪用による潜在的リスクの高さ、後者は責任者の特定の難しさ、またいずれの例においてもその機能不全時の影響の大きさといった、人間のコントロールを容易に超え、手に負えない事態を招いてしまう脆弱性を抱えています。言い換えればわたしたちは、より一層厳格で慎重な人間の手によるテクノロジーの扱いが求められる時代に生きているといえるでしょう。まさに新技術による「ブレイクスルー」は同時に人間の高度な「コントロール」の要請と表裏一体の関係にあります。

「人間不在」の殺人 ~「人道」が失われる前に~

そうした人間のコントロールを越えつつある技術のブレイクスルー(人間の知能を越えつつある「シンギュラリティ(技術的特異点)」とも呼ばれます)が、AIと呼ばれる人工知能(Artificial Intelligence)であり、これを兵器に応用した例が、殺人ロボットなどの「自律型致死兵器(Lethal Autonomous Weapons, 略称“LAWS”)」と呼ばれる兵器群です。新技術が軍事的場面に応用される例は決して珍しくありません(むしろ「自動ドア」や「デジタルカメラ」等のように軍事技術が日常生活に転用される例の方が多いのかもしれません)が、LAWSは「自律型(人間のコントロールからは自律して独自の判断で)」「致死性(生命のはく奪、殺人を行使する)」という特徴をもつもので、人間のコントロールが及ばない危険をはらむことから、「銃」「核兵器」に次ぐ「第三の軍事革命」を引き起こすものとして、その実用化を危ぶむ議論を呼んでいます。こうした危機感から、2013年には国際NGO「キラーロボット反対キャンペーン」が発足しています。

2019_41_photo3.jpg

©Laila Tawakkol, SARC/Homs Branch
国際人道法で保護される医療活動にも無差別で不必要な障害となる「地雷」により荒廃した街を走るシリア赤新月社の救急車。

国際人道法―戦争であっても負傷した兵士、戦闘に無関係な一般市民、医療者は攻撃の対象としてはならず、区別し、保護する―の守護者である赤十字も、この問題に深い関心を寄せてきました。赤十字国際委員会(ICRC)は、2018年11月、ジュネーブで開かれた国際会議で次のように述べました。「兵器が誰を殺すかを自己の“判断で”決めるべきか?答えはノーだ。兵器の使用に人間のコントロールが不可欠なのは言うまでもなく、議論すべきはどの程度の人間の関与をどう保持するかだ」(ICRC News release, Autonomous weapons: States must agree on what human control means in practice, 20 November 2018)。
赤十字は長年戦場で使われる兵器―生物・化学兵器、地雷、クラスター弾、そして核兵器―の規制に取り組んできましたが、それはいずれも戦場で実際に使用された経験から生まれた「事後的な」試みでした。しかしLAWSが戦場で使用された例は未がなく、だからこそ今、それを「事前に」規制する国際法を設けることの重要性が説かれています。

「戦争の」ルールを「平和時に」守る ~「予防」としての人道法~

あまり知られていない例ですが、兵器の実用化前に、国際法による事前規制に成功した例があります。それが「盲目化レーザー兵器」で、1995年、ウィーンで開催された国際会議において、「失明をもたらすレーザー兵器に関する議定書」として会議参加国44か国のコンセンサスにより採択されました。この会議の採択においては、ICRCが1989年と1991年に「戦場レーザー兵器専門家作業部会」を主催していたことが重要な礎となっており、LAWSをめぐる議論においても注目すべき先例といえます。
国際人道法は、新たに開発される兵器が既存の国際法に合致するかどうかを検証すること(1977年ジュネーブ諸条約第一追加議定書第36条)、また、そうした新兵器についての国際法が存在しない場合でも、戦争の方法・手段の選択、使用においては「人道の諸原則及び公共の良心」に基づく考慮を下すこと(条文の提唱者の名を冠し「マルテンス条項」とも呼ばれます。同議定書第1条2項)を締約国に義務付けています。国際人道法はラテン語で「Jus in bello(戦争の中の法)」とも呼ばれますが、こうしてみると、人道法は戦時のみならず平和時にも我々に様々な義務を課しているものといえ、上のレーザー兵器を巡る議論はまさに人道法の要請を平和時に具現化した試みだといえます。AIにとって「人道の諸原則」が何を意味するかの解釈と実践は、AIではなくわたしたち「人間の手」にゆだねられていることを忘れてはならないといえるでしょう。

2019_41_photo4.jpg

戦争が生じた「後に」戦争のルールを普及するのでは遅すぎます。
だからこそ平和時からの普及(万が一を想定した「予防」)が重要です。
©CICR/MAYER. Till

本ニュースの印刷用PDF版はこちら(567KB)