AIの進化が気づかせてくれる、「多様性への向き合い方」
2017年6月25日放送の「NHKスペシャル 人工知能 天使か悪魔か 2017」をご覧になったでしょうか。（番組情報はこちらhttp://www6.nhk.or.jp/special/detail/?aid=20170625）
番組では、今年（2017年）春に行われた将棋界の最高位・佐藤天彦名人と最強のAIが激突する電王戦２番勝負の様子を中心に、現実社会で「AIが役に立ち始めた」すなわち「人間が考えるよりも良い結果を出し始めた」事例が紹介されました。今回はこの事例をテーマに、AIの進化が気づかせてくれる、「多様性への向き合い方」を考えてみたいと思います。
【人間が考えるよりも良い結果を出し始めたAI】
- 将棋電王戦２番勝負では、AIポナンザが初手から「人間が直感でまず捨てている（悪手にしか見えない）選択肢」を繰り出し人間側を大混乱させるも、人間が読みきれない先で各手がしっかりと活かされるという局面を連発。投了間際、佐藤名人が棋譜を読み返しても「自分にミスがあったとは思えない」というレベルで全力を尽くしたにも関わらず完敗。
- 名古屋のタクシー会社では、客がいる場所を指示するAIを導入。新人ドライバーに限らず、初めは半信半疑だったベテランドライバーでさえも「これは使える」というレベルで客が待つ場所に誘導。
- シンガポールのバス会社では、事故を起こす危険性の高い運転手を評価するAIを導入。危険性が高いと評価された運転手に安全教育を実施。
- アメリカの裁判所では、過去の膨大な裁判記録を学んだAIが被告の再犯リスクを予測、刑期の決定や仮釈放の判断等に活用。等々が紹介されました。
【理由は分からない、でも、当たっている】
どの事例でも「ベテランを含め、人間では追いつけない」レベルで、AIが実際に役に立ち始めたことが示されています。実はその一方で、ポナンザ開発者自身である山本さんを始め、AIに携わる多くの人が指摘している点があります。「AIがなぜそう判断をしたのか分からない」のです。
AIがついに人間を追い越すようになったきっかけは「機械学習」という技術の発達にあります。非常に大雑把に言ってしまえば膨大な教材データを与え、それを題材にAI自身に学ばせる、ということです。そしてこの際、これまた大雑把に言うと、AIとしては「統計的に『相関関係が高い組み合わせ』を見つけ出し、予測に活用するようにしている」のであって、「因果関係を見つけ出している」訳ではないのです。
AIは何かの「構造」を見出して判断している訳ではないので、「なぜそう判断したのか」を示すことはできないのです。きっとAIが言葉を話すことができるなら「なぜかは知りませんが、人間は、この条件下では概ねこうするのです」と答えるのでしょう。
この「なぜかは分からない、でも、（人間が自分で判断するより）よく当たる」という状況は、適用相手が人間自身であるような場合等において問題を引き起こす可能性があります。
現状、AIの予測はあくまでも「良く当たる」だけであり、「必ずそうなる」というものではありません。（判断対象の構造を解明している訳ではないので当然といえば当然です）「AIの判定結果によりあなたには仮釈放は与えられません」「AIによりあなたは危険な運転手だと判定されました」と言われて、納得できないのも当然でしょう。また、既により一般的に指摘されている通り、「AIが人間の職を奪うのではないか」というのも重要な問題です。
しかし敢えて、本稿ではこの問題を掘り下げることはせず、AIがもたらした「理由は分からない、でも、良い結果をもたらす（可能性が高い）」という現象が私たちに提示するものを考えてみたいと思います。
【無意識の固定概念を突き破る】
これまで私たちがふれてきた「科学」は、基本的に「還元主義」という考え方でできています。還元主義は「物事を分解し、細部の構造を理解していけば、全体を理解できる」という考え方です。私はこのことについてはなんら否定するつもりはありません。しかしながら、「知能」というものについては現時点ではこれが通用しないのです。また、現時点で人間が完全な知能を手に入れているわけではないのに「考えれば一つの正解にのみ収れんする」という思い込みが、発想の幅を狭め、結果的に無意識の固定概念に人間を捉えてしまっていることがあるのです。
電王戦2番勝負では、まさにこの「これまで数多くの棋士が築き上げてきた無意識の固定概念」が目前でどんどん突き崩されていき、「最高峰の棋士」が文字通り「頭を抱え込む」こととなります。
しかし、この体験が佐藤名人に大きな刺激を与ることとなるのです。電王戦1局目に破れ、2局目との間に行われた（対人間の）名人位防衛戦において、佐藤名人は今までの定石にとらわれない、新しい手を数多く繰り出しました。
佐藤名人は「人間同士の対局だと、将棋という大きな宇宙の中である１つの銀河に住んでいるだけだった、ポナンザとの対戦で、ほかにも惑星があると気付かされた。今まで気づいていなかったものがあったので、それを顕在化しようとしています」と語ったのです。
【ありのままの対象に向き合う】
さて、AIがもたらした「理由は分からない、でも、良い結果をもたらす」という現象が私たちに提示するものをまとめてみたいと思います。
実は、私たち人間にも、自分自身も含めて分からないこと・説明できないことがたくさんあります。また、本人の説明を聞くと、そのことが自分にとっての価値観・優先順位と合わないために混乱してしまうこともあります。
（例：アイドルのコンサートに行くことが楽しみの人にとって、そのために休暇を取ることは全体的な仕事のモチベーションやパフォーマンスを上げるために必須のことですが、上司にそれを説明できるとも、納得させられるとも限らない。等）
AIはこの「説明できないけど、結果は出る」という、これまでの私たちのスタイルからすると「頭を抱えてしまうこと」を、最もストレートに提示してくれているのではないでしょうか。自分が納得できない説明を聞くと、ついつい「なんでそれって必要なの？（=要らないんじゃない？）」と、「説明を聞くフリをした説得」をしてしまうことはありませんか？AIにはこれが全く通用しないのです。何しろAI自身にも理由は分かっていないのですから。そして「重要なのは『理由』ではなく『そうすると良い結果が出る』ということである」という極めて功利主義的なモデルを示してくれているのです。
部下からの提案しかり、妊産婦や様々なメンバーの労働環境しかり、「なぜそう思うのか」「なぜそれを欲しているのか」ではなく、「そうした方が良さそうなのか」「どうすると結果的に全体的なパフォーマンスが上がるのか」にフォーカスする。多様性との向き合い方の非常に基本的な姿を提示してくれているような気がしないでしょうか。
矢嶋 一郎
こちらの記事は、メルマガにて先行配信されます。
ぜひ、ご登録ください。
