アメリカ西海岸に拠点を持ち、AI（Artificial Intelligence）を日本企業に向けて開発し、導入を提案する会社であるパロアルトインサイトを始めて２年が過ぎようとしている。AIの会社を経営しているというと、「コンピューターに詳しいんですね」と言われることがしばしあるが、実は、それ以上に人に詳しくなることが大事なのではないかと思っている。

ロサンゼルスの大学で心理学を学んでいた時に、ある2人のイスラエル人心理学者の研究に衝撃を受けた。AIを開発する会社を経営している今、あの時学んだことが、一つになって、点と点が線になっていると感じるのである。

認知心理学で世界的に著名なスタンフォード大の故エイモス・トベルスキー教授は、同じイスラエル出身の心理学者であり、ノーベル経済学賞を2002年に受賞したプリンストン大のダニエル・カーネマン教授と、人間の意思決定がいかに非合理性に満ちているかに関して長年研究を行ってきたことで知られる。1970～80年代の経済理論は人間の行動が合理性に基づいているという前提で成り立つものが多かった中で、科学的、体系的に人間の意思決定は非合理性に満ちていることを証明し、その後の行動経済学の基礎を作ったと言われている。

AIについてどう思うか聞かれたとき、エイモス・トベルスキー教授が人間の持つ非合理性に関してユーモアを交えて「私は自然愚鈍性(Natural Stupidity)を研究しているんだ」と返答したらしい。人工の対義語が自然、知能や知性の対義語が愚鈍だ。この二つはコインの裏と表だな、と感じる。

昨年、「いまこそ知りたいAIビジネス」（ディスカヴァートウェンティワン刊）という本を上梓し多くの日本の中小企業経営者やAI時代に自分がどう向き合うべきかを迷う方に読んでいただいた。その反応を基にシリコンバレーと日本でのAIのあり方を比較しながら、最近よく、AIと自然愚鈍性の対比や人間らしさ、それゆえの面白さについて考える。

例えば、必ず10万円必ずもらえるのか、50％の確率で25万円もらえるのか２択を迫られたら、殆どの人が前者を選ぶだろう。数学的には、後者の期待値は12万5千円だと分かっていても今確実にもらえる10万円を選ぶのがリスク回避をしたがる人間の非合理性であり、自然な愚鈍性なのだ。この２択における正解はどちらだろうか。何回チャンスが与えられるのかなど細かい条件設定があるものの、最終的に意思決定をするのは自分自身だ。

そんなとき、大局的かつ統計的視点で示唆を与えてくれるもの、人間の弱みでもある認知バイアスを補填してくれるツールが本来の統計学的手法に基づくAIだ。今確実な10万円よりも、50％の確率で25万円の方がいいですよ、そういう意見を聞いた上であればより多角的な視点で判断できるし、人間が持つバイアスを回避できるだろう。

今私たちがやっているプロジェクトの一つに、PRなどの露出効果の可視化というものがある。手当たり次第に色々なPR戦略を打ってきた会社が、それぞれのキャンペーンの効果を知りたいときに、様々な口コミデータなどを網羅することで定性的、定量的に効果を可視化、自動化できるものだ。これにより、現場の人はより戦略的で創造的な作業に時間を使うことができるようになる。

数学的アプローチをフルに活用して人間の意思決定の補佐役をするAIのニーズが高まっている反面、面白いことに、最近では数学的アプローチによるAIの「理論上の最適解」より、人間的感覚を学ばせたAIによる「現場の最適解」を求める会社も増えている。「この人とこの人が隣同士に並ぶと気が合うようで生産性が上がり、離職率も減る。そういう意味での人員配置の最適化をしたい」という類の依頼が増えているのだ。これはトベルスキー教授の言葉を借りるならば、自然愚鈍性に基づく「戦略的愚鈍型AI」とでも呼べるかもしれない。

パロアルトインサイトで開発したAIを導入した企業から、先日こんな依頼を受けた。
「石角さん、以前作ってもらったAIですが、現場でそれを毎日使っている人がこう言うんです。どうしたら僕が教えたことをAIがすぐ学ぶようになるんですか。例えば今日、ここはA→C→Dではなくて、正しいのはA→D→Cの順だと教えたら、すぐに学ぶのがAIじゃないんですか？」

膨大な量のデータを使い統計的処理を見えない部分でしているため、今日教えたことをすぐに学んで明日綺麗に吐き出せるようになるわけではないのがAIなのだが、やはり人間の心理としては、教えたことはすぐ反映されてほしい、そうでないと信用できないと思ってしまうのもよく理解できる。だから、現場の人の感覚値をどうやってAIの設計に生かすか考えて、改善を加えている最中だ。まさしく、人に寄り添ったAIであり、人とAIが協業し共存している風景がここにある。

私は、頭ごなしに「これがいい」とAIレコメンドを押しつけても、受け取った人間がそのレコメンド通りに必ずしも動かないことをAIの現場実装を通して学んできた。「人とは確率論的な宇宙に投げ込まれた決定論的な装置だ」とエイモス・トベルスキー教授は言ったが、その確率論的な宇宙であるこの社会と決定論的な装置である私たちの間を埋めて、キャタリスト的存在として役立つAIこそが、理想的なAIなのだと思う。