単行本情報
| 著 者 | ポール・シャーレ |
| 訳 者 | 伏見 威蕃 |
| 発行者 | 早川 浩 |
| 発行所 | 早川書房 |
| 発行日 | ２０１９年７月２０日 |
| 頁 数 | ５７４ |
概 要
ＡＩ搭載のロボット兵士が戦場で銃の引き金を引くとき、何が起きるのか？
人類の未来を占う必読書！
勃興するＡＩ・ロボット技術を受け、急速に進化を遂げる「自律型兵器」。映画〈ターミネーター〉シリーズに描かれるような、ロボットが人類を脅かす近未来は到来するのか？米陸軍レインジャー部隊出身のアナリストが、最先端軍事技術の実態とその深部に迫る。イスラエルの完全自立型無人機「ハーピー」、米国の無人艇「シーハンター」、韓国のロボット哨兵「ＳＧＲ－Ａ１」など、各国の実例を紹介し、ＤＡＲＰＡ（米国防高等研究計画局）の研究者、軍の高官、軍縮活動家などあらゆる関係者に取材。導入と規制の課題、戦争と人類の未来を展望する。
表紙袖より
感 想
機械に判断できないのは道徳。子供の兵士を殺せるのが機械。そういえば『虐殺器官』で、子供を殺せるようにする薬があったな。
機械はあくまで１か０か。グレーの判断は人間にしかできない。ゆえに、機械の中に人間が介する、「ケンタウロス」型の制御になる。ターミネーターのような近未来はない。とのこと。
核ミサイルの話は面白かった。核ミサイルが飛んできたけど、まさかそれはないだろうと思い、誤報か真実か迷っていた。結局、迎撃のボタンは押さなかった。警報システムの故障と判断して。これがＡＩによる制御だったら、機械の誤作動を判断できず警報が鳴った時点で迎撃をすることになる。そして戦争になっていただろう。機械に全ての制御を任せると、こういう恐ろしいことが起こり得る。
本書の最大のテーマは「我々は機械にコントロールされるのか、機械をコントロールするのか」だと思います。
結論としては、「制御できるように頑張る」って感じですか？制御しなければならないが、ブラックボックス化したＡＩを、真に理解できる人はこの世界にはいません。誤作動をするかもしれないし、暴走するかもしれない。だから、できる限りの予防の策をとる。
どこまで機会に任せ、どこから人間が制御するのか。そこの線引きを明確にし、システムの中に組み込む。その辺りの技術や政治的な要素はまだまだ確立されていないようですが。
最後の引き金を引く判断は、人間がする。というのが落としどころ、と言えそうです。これは『psychoーpass』のドミネーターと同じですね。やっぱりあのアニメは示唆に満ちているなあ。
「人を殺す」という判断を機械に任せてしまうのは、やはり人間として間違っていると思います。現場の兵士たちは完全自律型の兵器の導入には難色を示すようです。たぶん本当に「人を殺す」ということの意味や重さを知らない主導者たちが、ゲーム感覚で使いたいだけなのでしょう。単純にゲームに勝つだけなら、ＡＩの方がいいですよね。チェス然り。
我々は人間です。機械には判断できないことを判断するのが人間の仕事。ＡＩに奪われる仕事もあるでしょう。でも、ＡＩにできることと、人間にしかできない仕事を理解していけば、この先も仕事を続けていくことができるかも知れません。
本書には、軍事以外にも役立つ「人工知能」の根本的な知識が記載されているので、誰が読んでも役に立つ１冊ではないでしょうか。ビル・ゲイツも絶賛し、今後１０年の必読書と言われているそうです。
