鼎談書評 文藝春秋 掲載記事

コンピュータに世界が征服される時――

『人工知能 人類最悪にして最後の発明』 (ジェイムズ・バラット 著/水谷淳 訳)

ダイヤモンド社 2000円+税

成毛 本書は、人工知能が進化していく中で、これまで人類が支配していた科学技術が人工知能に奪い取られる時が訪れる可能性を指摘し、人類の滅亡まで考えるべきであると警鐘を鳴らしています。現時点では一種の「予言の書」でしかありませんが、本書で指摘されている通り、電子マネー『PayPal』の創業者、イーロン・マスクら数多くの先端技術に精通した人物が人工知能を危険視し始めているのも事実です。私も本書の指摘は大体当たるだろうと思っています。早く手を打たないと、自分が生きている間に人類が滅亡する確率はゼロではないという気がします。

山内 国際政治学や歴史学を研究する立場からみると、人工知能の最先端と安全保障の関係について議論されている点が興味深いですね。

 現在、中国の人民解放軍はアメリカや日本をハッキングで内偵しており、北朝鮮でもハッカーの英才教育が行われている。米国防総省元副長官、ウィリアム・J・リン三世の「ビットとバイトはブレット(銃弾)とボム(爆弾)と同じくらい危険」という言葉が象徴しているように、もはや陸軍、海軍、空軍の次に「サイバー」が加わる時代なのです。

 本書では「密結合」という言葉で表現されていますが、お互いに直接的で深刻な影響を与えるシステムの代表として、送電網の例が挙げられています。いま、先進国ではスマートグリッドと呼ばれ、送電網と家庭電力がインターネットで繋がれようとしている。本書にあるように、人工知能にそこをハッキングされたら、人類社会はイチコロでしょう。

成毛 本書を読んで思い出したのは、私が日本法人代表をしていたマイクロソフトのビル・ゲイツと立花隆さんが本誌(1997年2月号)で対談をしたときのことなんです。同席した私としては、当時発売されたばかりのウインドウズ98の話をして欲しいのですが、立花さんの関心は「人工知能はつくれるか」という一点。その話を中心に対談が終わってしまい、ゲイツに怒られるかと思ったら、「確かに人工知能が発展したら何が起こるんだろう。何も手を打っていないけど、とても気になる」と感心している。非専門家の感覚は正しいんだ、というようなことも付け加えていましたね。こういう専門的な課題は、外からの方がよく見えるときがあるのでしょう。

山内 多くの人工知能開発者たちが「善良な人間は善良な人工知能しか作らない」という性善説に基づいて行動しているという指摘も本書にありました。ソフトウェアの世界でも、10個に1個は有害なソフトと言われているのに、自分たちが創り上げたものが悪い目的に転用されてしまう可能性を予期しないという。重要な問題提起ですね。

 さらに、文化への言及も刺激的ですね。チェスでも人間が人工知能に勝てなくなる話が出てきますが、そうなれば安全保障や身体的危害という点だけではなく、芸術分野からも人類社会が破滅していくことになりかねません。

【次ページ】将棋では人間を圧倒

この記事の掲載号

2015年9月号
2015年9月号
芥川賞発表 受賞作二作全文掲載
2015年8月7日 発売 / 特別定価970円(税込)
関連ワード

ジェイムズ・バラット水谷 淳山内 昌之片山 杜秀成毛 眞

読書の新着記事 一覧を見る RSS

登録はこちら

文藝春秋について 毎月10日発売 定価880円(税込)

※発売日・価格は変更の場合があります。