【読書感想】人工知能はどのようにして 「名人」を超えたのか？ ☆☆☆☆☆

人工知能はどのようにして 「名人」を超えたのか?―――最強の将棋AIポナンザの開発者が教える機械学習・深層学習・強化学習の本質

Kindle版もあります。

人工知能はどのようにして　「名人」を超えたのか？―――最強の将棋ＡＩポナンザの開発者が教える機械学習・深層学習・強化学習の本質

内容（「BOOK」データベースより）
人工知能は今、プログラマの手を離れ、既存の科学の範疇を超え、天才が残した棋譜も必要とせず、さらには人間そのものからも卒業しようとしています。その物語を、できる限りやさしく語りました。

　ああ、僕がずっと観てきた「弱いけど、なんとかコンピュータが人間と対局できるようになった時期」から、「コンピュータ将棋がプロ棋士を追いかけ、勝てるようになっていった時代」というのは、人類の歴史全体でみたら、スピードを落とさずに駆け抜けていく新幹線を、通過駅で見るような、そんな瞬間的なイベントだったのかもしれないな、と思いながら読みました。

　佐藤天彦名人と『ponanza』が、今回が最後になるとアナウンスされている「電王戦」で2番勝負を行ったのですが、結果は、佐藤名人の連敗でした。
　将棋ファンとしては、「でも、羽生さんがまだ居るじゃないか、羽生さんとponanzaは勝負しないの？」と、「今回で最後」と聞いたときに感じたのですが、この本の著者であり、ponanzaの山本さんの話を読んでみると、「もう、コンピュータのほうが強くなっているのは自明の理だから、あえて羽生さんを引きずり出す必要はない」ということなんでしょうね。
　山本さんのブログには「最近のコンピュータ将棋は半年で以前の自分に対して勝率75％くらい強くなるのが普通」だと書かれています。
　いくら羽生さんでも人間ではありますから、人間とAIの現状での実力、そして、今後のAIの「伸びしろ」を考えると、もう、「勝負する」時代は終わって、これからは、AIどうしが最強をめざす、あるいは、人間がAIに学びながら、棋力を高めていく、という時代になっていくのでしょう。

　この本の「はじめに」で、著者はこう書いています。

　アルファ碁は（知られている限り）誕生からわずか数年で、現在の強さになりました。ポナンザの誕生は10年前ですが、急速に強くなったのはやはりこの数年のことです。
　なぜ近年に、そのような急速な進歩が起きたのか？　本書の目的の１つは、その答えを読者の皆さんにお伝えすることにあります。
　そして同時にお伝えしたいのが、「知能とはなにか」という問題への、私の（今のところの）考えです。
　ポナンザを成長させてきたこの10年は、私にとって大変な驚きと喜びに満ちたものでした。その経験のなかで、私は「知能とは？」「知性とは？」という問題を幾度となく自分に問いかけることになったのです。

（中略）

　人工知能について日々考えたことで、逆に人間の知能というものがクリアに見えてきました。そして、その思考の結果を皆さんとシェアすることが、おそらく人工知能を最も本質的に理解していただける方法ではないかと思ったのです。

　といっても、決して難しい話にはなりませんのでご安心ください。将棋や囲碁の例を軸にしながら、人工知能において最も重要な３つの技術、「機械学習」「深層学習」「強化学習」の本質を、できる限りわかりやすく解説します。ポナンザを作りながら、私自身が直感的に腑落ちしたことをお話ししますので、この本でしか読めない内容になっているはずです。

「人工知能に興味はあるんだけれど、どうもその仕組みが今ひとつよくわからない。そのうち『ターミネーター』みたいに、人類を抹殺しはじめるんじゃないかと心配になってきている」という僕のような人間にも面白く読めました。
　最近の人工知能の話となると欠かせない「ディープラーニング」や「モンテカルロ法」についての説明も、これまでいろいろ入門書を読んできましたが、この本での解説がいちばん僕には「腑に落ちた」のです。

　とくに興味深かったのは、機械学習によって人工知能が飛躍的に進歩した一方で、科学者やプログラマが陥った「困った状況」の話でした。

　それは、「解釈性と性能のトレードオフ」——つまり人工知能の性能を上げるほど、なぜ性能が上がったのかを説明できなくなる、ということです。この傾向は、すでに人工知能の開発における前提や、一種の原則のようにになっています。
　理由がわからないのに強くなる。人工知能という現代科学の最前線で、なぜそんなことが起きているのか。これからはその説明をしていきましょう。

　突然ですが、皆さんは「黒魔術」という言葉をご存知でしょうか。おとぎ話やファンタジーの世界で、魔女が不思議な薬を作るときに使われるような魔法のことです。ぐつぐつと煮えたつ大鍋の前に立ち、意味不明な呪文とともに材料を投げ入れると、煙とともに目的の妙薬ができる……そんなシーンをアニメ作品で観たことがある人も多いと思います。

　驚かれるかもしれませんが、この「黒魔術」は機械学習の世界でもスラングとして定着しており、どうやって生まれたのか、あるいはなぜ効果が出るのかわからない技術の総称となっているのです。
　当然ながら、人工知能を研究する学問分野である情報科学は、もともと論理や数学が支配する世界でした。理由や理屈がすべてを説明できる世界だったということですね。しかし、現代の情報科学では（とりわけ人工知能の分野では）、だんだんと黒魔術の影響力が強くなってきています。

　世界最強の将棋プログラムの作者である著者も「ポナンザにはたくさんの黒魔術が組み込まれており、すでに理由や理屈はわからなくなっています」と仰っているのです。
　とはいえ、当てずっぽうに改良しているわけではなく（それでは、「改良」にならないことが多いでしょうし）、一定のルールを設けているそうです。

　現在のポナンザの改良方法は、なんらかの新しい改良を考えたら、それを適用したポナンザと以前のバージョンのポナンザを3000試合ほど自動で対戦させるというものです。このとき、新しいポナンザの勝率が52％以上の場合は新しい改良が採用されるという方針をとっています。
　私が3000試合の将棋の内容を個別に見ることはなく、統計処理をして計測しています。正確には、将棋の内容を吟味しようにも対局の勝因や敗因がわからないので、吟味できません。すでにポナンザの棋力は、私のレベルをはるかに上回っているからです。
　しかも、「改良した作業」とポナンザが「強くなったこと」が、将棋のプレイヤーとしての感覚からは大きく乖離していて、理詰めではその差を縮めることができません。うまくいった改良がどこでどう有効に働いたのか、全然わからないのです。
　加えてこういった改良の成功率は、今までの経験則によると2％以下です。なんらかの改良をしても、強くなることが確認できるのは100回に２回もないということですね。

　そんなわけで、現在のポナンザの改良作業は、真っ暗闇のなか、勘を頼りに作業しているのとほとんど変わりがありません。これは絶対うまくいく、と思った改良が成功しないことは日常茶飯事で、たまたまうまくいった改良をかき集めている、というのが実情です。そのため、たまたまうまくいった改良は、私から見るとますます黒魔術のように見えるのです。

　ひたすら天才たちの理詰めで改良を続けられていると思っていた人工知能に、その開発者たちでさえ「黒魔術」という表現を使っていることに僕は驚きましたし、それと同時に、彼らの率直さに親しみを持てました。
　そうか、彼らでさえ「黒魔術」と読んでいることを素人の僕が完全に理解できるわけがないよね。
　これを読んでいると、生物の適者生存、あるいは進化のプロセスを、人工知能は急速にたどっているようにも見えます。

　この本のなかで、とくに印象的だったのは、著者が人工知能を開発してきて、現在考えるようになったという「知の本質」についての話です。

「知の本質」というものが存在するとしたら、かつては普通の人と昆虫のあいだにこそあったのでしょう。
「かつて」と書いたのは、これからは人工知能がアインシュタインのような天才すら超えていくのではないかと思うからです。
　いま、人工知能は多くの場面で人間をお手本にした「教師あり学習」としています。多くの場合はそれだけで十分に技能が高められるでしょう。しかし、強化学習とディープラーニングの組み合わせによって、人工知能は人間のお手本からも離れて、はるかに上のレベルに到達することが、少なくとも囲碁の世界では証明されてしまいました。今、人工知能は天才からも卒業する時代になったのです。そうした時代に、「知の本質」はどこにあるのでしょうか？
　もしかしたら、「知の本質」は、「普通の人」と「昆虫」のあいだよりも、アインシュタインと人工知能のあいだにある、と考えるべきなのかもしれません。

　人間とコンピュータの「知」の差を考えれば、僕とアインシュタインの知の差なんて、微々たるものだ、という世界が、おそらくこれからやってくるのでしょう。どんなに力自慢の人間でも、パワーショベルと同じ仕事はできない、ということが、知の領域でも起こりつつあるのです。
　ただし、それは確実に進行しているのだけれど、ひとりの人間の寿命という単位で考えると、少なくとも、僕が生きているであろう数十年の範囲では、すべての知的労働がコンピュータのものになる、ということはなさそうです。
　でも、こればっかりは、わからないよね。
　それこそ、コンピュータはコツをつかめば、自己学習で急激な進化を遂げていくのだから。

　人工知能が人間を超え、爆発的・加速度的な成長を遂げることで、これまでの世界とは不連続とも思える新たな世界に変化する——そうした不可逆の動きが起きる歴史上のポイントが、シンギュラリティと呼ばれています。
　シンギュラリティの提唱者であるレイ・カーツワイルは、著書においてそのときが来るのを2045年と予想しており（その後、2029年にまで予測を早めたようですが）、その頃には１つのコンピュータの知性が、人類「すべて」の知性の総量を上回ると言っています。

　2029年なら、まだ僕も生きている可能性が高いんじゃないかな……
　このシンギュラリティ以降の世界に懸念を表明している人は少なくありません。
　世界のために人類を抹殺するマシーン、というのは、SF小説の定番の設定ではありますし。
　著者は、グーグルフォトで肌の黒い人が「ゴリラ」とタグ付けされてしまった話を例示して、「これは画像認識の精度の問題というよりは、グーグルが写真のサンプルをネット上で集めた際に、悪意のタグ付けがされたものをたくさん集め、影響されてしまったからではないか」と推察しています。
　現在の画像認識システムそのものの精度は、きわめて高いものになっているので、人々が意識的につけたタグのほうに問題があったのではないか、ということです。　

　シンギュラリティ以降、人類は人工知能をコントロールできなくなるでしょう。昆虫が人類をコントロールできないように、賢さで劣る存在は上位にいる存在を意のままにはできないのです。
　その意味では、私は「人工知能がとても危険だ」という意見にも一定の同意をします。
　しかし、本当に人工知能が危険な存在になるかどうかは、意外なことに「人類自身の問題」になると思います。
　人工知能は、私たちからさまざまなことを学習していくでしょう。倫理観もその１つです。そうなると試されるのは、人類自身ということになってくるのではないでしょうか？

　たしかに、その通りだよなあ、というのと、だからこそ、人工知能は危険じゃないか、というのと。

　本当に「面白い本」だと思います。
　ただ、こうして人工知能の未来を想像すると、これからの人間にとって「学ぶ意味」って、あるのだろうか、とか、ふと、考えてしまうんですよね。

fujipon.hatenablog.com

人工知能の核心 (ＮＨＫ出版新書)