人工知能（AI）が近い将来、人類を滅ぼすかもしれないとする警告の書である。テレビプロデューサーでもある著者のバラットは、人工頭脳の開発に関わる多くの研究者のインタビューから、今アメリカを中心に IBM はじめ 100 以上の施設で精力的に開発が進められている人工知能が、ある時点で自意識を持つようになり、内部認知機構によって自身を高速で書き直し、等比級数的に自己進化を遂げてゆく。その結果、ある時点で知能爆発が起き人工超知能：Artificial super intelligence（ASI）になると、人類のコントロールを離れる時点（シンギュラリテイ）が来る。これが表題にもある“人類最悪にして最後の発明”といわれるASI の出現である。人間の価値観を持たない ASI は自己中心的で自己保存のために人類を敵とみなし地球規模の混乱を起こし、最悪のストーリーとしては人類の絶滅に至る危険性があると警告している。これを避けるには予め人類に友好性を持つフレンドリーコードを組み込んでおくことであるが、その技術の開発と効果は疑問視されている。人工知能の危険性を警告する一人であるホーキング博士は、コンピュータが知能を発達させ世界を乗っ取るという危険はすでに現実のものだと述べており、最近ではビル・ゲイツも同様の警告をしている。現在の日本ではあまり実感のない警告のようであり、自動運転できる車の開発や、介護で期待されるロボットなどプラス面しか知られていない。しかし世界の 56 カ国では戦場用ロボットが開発中であり、もしASI を備えたロボットが牙をむき人類を焼き尽くす意思を持った場合、これを防ぐ方法はないとされる。著者は多くのデータを総合して 2045 年までに ASI が出現する可能性があるが、その出現を止める手立てがないことも述べている。私たち人類は人工知能の出現によって全く新しい局面に入ってゆくのであろうか。

本庄　巌（編集委員）