今日は先月のノートルダム大聖堂火災の報道に関して興味深いニュースがあったのでご紹介します。
ノートルダム大聖堂の火災のニュースを報道するライブ動画に、YouTubeが911のウィキペディアページのリンクを
関連ページとしてレコメンド表示したのです。
YouTubeのアルゴリズムに問題があったとしてアメリカでは問題になっています。

ノートルダム大聖堂火災のニュース画像と911の画像になぜ関連性が高いとアルゴリズムが判断したのかは簡単には分からないもので、ブラックボックス化したAIへの問題がこのような形でも露呈してきています。（おそらくツインタワーの火災と類似していると画像から判断した模様）テロリストの攻撃と思わせる間違った情報の流布につながる可能性があるので、グーグルはすぐに表示をしないように対処しました。

今回の件では、このようなAIの判断に問題を呈する姿勢や議論をして即座に対処してアルゴリズムの改善を図ることが大事なのだと私は考えています。

皆さんも今後、YouTubeのレコメンド動画や広告などが、どういう理由で表示されているのか、考えてみると面白いと思います。私が常日頃言っているのは「AIのレコメンドをただ受け入れる人にならずに、AIの仕組みを理解して使いこなす人を育てることが大事だ」ということですが、その一環になると考えています。

ノートルダム大聖堂の火災に関しては、フランスのビリオネア達が数百億円相当の寄付をして、逆に批判を受けるという現象が起こっており、こちらに関しても興味深いと思っています。

説明可能なAI

パロアルトインサイトでは、クライアント企業のためにカスタムメイドでAIを開発しています。その時にクライアントの現場の方や我々が作ったAIを使う人に「なぜAIの判断がこうなったのか」の仕組みを説明する時間を設けています。仕組みを理解してもらい使ってもらうことで、クライアント企業の中にAIエキスパートの人材が育つと考えています。ブラックボックスだから、という姿勢ではなくAIを作る側が説明できるAI（Explainable AI＝XAIと呼ばれています）を作る姿勢が求められています。

説明可能なAIの導入にご興味がある方は　info@paloaltoinsight.com　までご連絡下さい。

それでは良い一週間をお過ごしください。

石角友愛