人工知能は教育をどう変える？ 徹底対談 第1回

品川女子学院 漆校長×人工知能プログラマー 清水亮

【対談】人工知能は教育をどう変える？ 2020年に向けた日本の「学び方」と漆紫穂子校長が気づいたこと

学習の過程で「勘違いしちゃうAI」、そして人間の「意識」とは？

清水　勘違いしちゃうAIは本番に弱いんです。原因は教材が悪い。要は視野が狭いんです。視野が狭いというのが、彼（人工知能）が勘違いしちゃった理由で、要するに同じものしか見てない。たとえば訓練用のデータセットで使った飛行機ばかり見てる。だから、なにを見ても飛行機に見えちゃうようなことが起きます。人間にも居ますよね。

漆　それでもう一つ、本を読んでいて思ったのが、局所解というのに陥って、ぐるぐる考えちゃうという話。だけど20％ぐらい、適当でいいんだよという風に教えておくと、そうはならないっていうのがありましたよね。あれも面白いなと思って。

清水　面白いですね。AIの世界って極めていい加減で、「なぜなのか」というのは誰も考えてんです。なんとなく、「こいつバカっぽいから、たまにランダムに動かしたらどう？」みたいな感じで試したらうまくいっちゃったね、みたいなノリなんです。本当に（ランダムの割合が）20％が正しいかどうかもわかってなくて、10％でもそこそこまで学習できたりとか。まさに総当たりで探していくグリッドサーチの世界です。50%はさすがにやり過ぎでしょ、とかそういう感じです。

漆　（学習の結果）ダメになったAIはどうなるんですか。

清水　削除です（笑）

漆　（観覧者を向いて）怖いですよねぇ。

清水　だって、AIの動作に使うメモリーは有限ですから。

漆　それはサヨナラしちゃうってことですか？

清水　そうですね。そこに罪悪感を感じるほど、まだ行ってないですけど。

漆　そのへんが、心ってどうなんだってすごく最近考えてて。というのは、さっき、人工知能は人に親切にはできるって言ってたじゃないですか。たとえば人間だって、好きじゃなくても好きって言えますよね。心がなくても心があるように振る舞うことはできますよね。そしたらあんまり変わらないのかなとか。

清水　「よくわかる人工知能」のテーマ全体としては、極論すればもうAIは心を持っていると考えてもいいかもしれない、そう判断するなら好きにすればって感じの内容なんです。なぜかというと、実は人間も、自分たちが考えているほどたいして複雑なことを考えてるわけじゃないということがわかってきたからです。

　人間が、思いやりとか心とか親切心とか愛とかあるっていうけれど、それを生まれつき持ってる人ってそんなにいないわけです。やっぱり周りの環境から学習して、「これが思いやりがある人の動き方なんだよ」とか「これが女の子らしい生き方なんだよ」とか「これが優しい人なんだよ」というのを、すごい勢いで学習するじゃないですか。幼稚園児なんて、明らかにそういう心は持ってないですよね。

　思いやりなんて持ってなくて、「あるように振る舞う」こともあるけど、それはあくまでお姉ちゃんの真似とか、テレビの真似です。そうすると実は心というのは、所詮その程度のものという。ヤだな、こんな考え方（笑）。

　ヤだなと思いながらも、所詮その程度のものである可能性が、AIを研究するとわかって来てしまうんですね。嫌なんだけど。

漆　いろいろ考えちゃいますね。本の中に映画の字幕をずっと学習させていくと、すごくしゃれた会話ができる、というのが出てたじゃないですか。たとえば自分が死んだ後に、自分がしゃべったこととか、書いたこととか、学ばせる、死語も私と語れるような、私みたいなことを言うようなAIってできるんですかね。

清水　それは全然できるでしょうね。新しいことを言ってくれるかはともかくとして。そういうアーキテクチャーは考えられると思います。

　そもそも、いろんなやり方で、自分の考え方とか魂を後世に残すということはできてるんです。そもそも本とか作品ってまさにそうで、誰か死んだ後で、僕らがたとえば芸術家の誰それってこんな人だった、なんて考えるのとあまり変わらなくて。それが今までは、人間の想像力の中でやっていた。イタコの口寄せっていうと言い過ぎですが、ある種妄想の中で、生きてる人が降りてくる場合もありますよね。人工知能の場合、「こういう傾向の人は、こういう風に言うだろうな」みたいなことを、機械が模倣するのは相当簡単にできますから。

漆　たとえばAIって、過去のデータを分析して答えを出すじゃないですか。急に起きた、過去にないようなことの答えというのはどうなんですか。

清水　AIの学習には、特定のデータを何度もみせて賢くしていく「訓練」と、その学習済みデータを使って物事を判断させる「本番」があるんですが、漆先生が今おっしゃったのは、「本番」なんです。見たことないものを見せるというのが本番ですから。

　まだまだそういう見たことないものに突然対応するのは難しいですけど、人間も同じですよね。人間の場合それこそ、真面目にやってると未知のことに対応できることはほとんどないですよね。真面目にやってる人で未知のものに対応してるのは見たことないです。ちょっとメチャメチャな奴じゃないと、訳わかんないことが起きたときに、対応するというのは難しいですよ。

漆　それはわかりますね。クラスの中で普段破天荒な子が、いざというときに肝が坐っていて、頼りになることありますよね。

清水　誰かが責任かぶってくれたほうが、子供であっても楽じゃないですか。「あいつが言ったとおりにやってダメだったら、あいつが悪かったことにすればいいや」みたいな。その程度の社会意識は子供でもあるから、「めちゃくちゃな奴が遊びのつもりでやることに、真面目な奴らが付いていく」というのが、今の社会の形成のされ方なんじゃないかなと思いますね。

漆　それはありますよね。

清水　たとえば企業の社長は職業柄たくさん知ってるんですけど、真面目な人ほどうまくいかないですよ。

漆　でも、真面目だけど経営者にはなったんだ、その人は。

清水　真面目だからなっちゃったんでしょうね。

漆　どうしてですか？

清水　真面目にやった結果、俺の人生は経営者になることだって思っちゃう人って、結構いるんですよ。ただ、真面目であるが故に、向いてないんですよ、本当は。それで、どうにもならなくなって倒産しちゃう。僕、会社作って今年で14年ですけど、そういう例はものすごく見てきました。

漆　「20％」のランダムさが入ってなかったって感じですかね。

清水　経営者の場合は、50％ランダムじゃないと成り立たないと思います。生き残ってる社長って、むちゃくちゃな人が多い。

漆　AIだとどうなんですか。むちゃくちゃなAIのほうが、いいAIになる？