DXを通した産業改革の重要性を伝える音声番組「Level 5 by Palo Alto Insight」

各回の内容を文字でもお伝えすべく、文章でまとめた記事を投稿しております。ポッドキャスト内容の概要を読みたい方はこちらの記事をお読みください。詳しい内容は音声ページよりお楽しみください。

AIが感情を持ったというGoogleエンジニアの主張は本物か？

今回の収録は7月3日に行いましたが、石角は日本の暑さに驚いたと言います。今年は梅雨も早々に開けて、連日の猛暑に見舞われている視聴者の方も多いのではないでしょうか。

 

夏の風物詩といえば「花火」

日本の夏といえば「花火」だと、長谷川は話します。暑さを乗り切るために、元気の出るイベントとしてとても楽しいですよね。昨年までは新型コロナウイルスの影響で花火大会も中止になるケースが多かったのですが、今年は緊急事態宣言も出ていないため、例年に比べると花火大会も多く実施されそうです。

アメリカでは、7月4日が独立記念日であるため「Fourth of July」と呼ばれる祝日が設定されています。この時期はアメリカ人にとって夏真っ盛りのため、各地でバーベキューをしたり、花火大会をしたりなど、大きく盛り上がるようです。

特に、アメリカでは個人規模での花火が禁止となっているため、家族で手持ち花火を楽しむことはできません。そのため、このFourth of Julyで実施される花火大会が、花火を観れる貴重な時期となっているのです。

 

プールサイドからみた花火の思い出

長谷川は幼少期の頃にニューヨークに在住していたため、当時から花火大会は一大イベントだったと話します。小さい頃に市民プールで実施されていた花火大会の記憶が、鮮明に残っているようです。

アメリカで販売されている花火はワンパターンなものが多く、日本のように色とりどりの花火や面白いギミックを持った花火はほとんど無いようです。これはある意味、日本の持つ花火の魅力なのかもしれません。

皆さんも熱中症に気をつけながら、この日本の夏をとことん楽しんでみてはいかがでしょうか。

今後も引き続き、「Level 5 by Palo Alto Insight」ではコメントを募集しております。

ぜひお気軽にご質問ください。

 

Level 5 AIが感情を持つことの定義とは

第26回で取り上げる「今週のホットニュース」は「AIは感情を持ったのか？Google エンジニアの主張とは」です。

ニュースの概要

2022年6月、Googleのエンジニアであるブレイク・レモイン（Blake Lemoine）氏が、「AIが感情を持った」という主張を発表しました。このAIは「LaMDA」という名前で、レモイン氏は仕事の一環としてLaMDAと日頃から話していたそうです。その過程の中で、LaMDAに感情があると判断し、AIに感情が生まれたという発表をしたところ、Google側から主張を否定されてしまいました。

その後、レイモン氏は主張の正当性を訴えるために、自身のブログでLaMDAとの会話を公開。その結果として、機密保持ポリシーに違反したとして、Google側から休職処分が出ています。

 

LaMDAとはどのようなAIなのか

LaMDAとは一体、どのようなAIなのでしょうか。これは、チャットに特化したAIとしてGoogleが開発したランゲージモデルとなります。これまで開発されてきたランゲージモデルAIの延長線上にあるこのシステムは、あくまでもチャットボットのブレーン的な位置づけとなっており、チャットボットのようなUIがあるものではありません。そのため、商品というよりも、研究段階のモデルということになります。

近年、さまざまな機械学習のモデルが出てきていますが、Siriのエンジニアだった長谷川からみても、「会話」というのは非常に難しい分野であるようです。例えば、何か質問をしたときに「よく分かりません」と答えても、会話としては成立しています。しかし、その返答が会話として面白いかと言われれば、そうではありません。

このように、ただ会話が成り立つだけではなく、しっかりと「良い返答」をしていなければ会話のできるAIとはいえないでしょう。この部分の評価基準が、非常に難しいのです。

他にも、暴力的な表現や偏見を助長するような回答になっていないかなど、責任あるAIの実現が必要となる点も、このAIが極めて難しい理由の一つとなっています。

 

なぜAIが感情を持ったと感じたのか

それでは、レモイン氏が「AIが感情を持った」と感じたのは、どのような返答を聞いた時だったのでしょうか。ブログによると、レモイン氏がAIに対し「あなたはどのようなものを恐れていますか」と聞いた時、AIが「人を助けることに集中している私のスイッチを、切られることをとても深く恐れている」と答えたようです。

この発言から、レモイン氏はAIが「死を恐れる感情」を持っていると判断し、感情を持ったのではないかと考えました。確かに、この会話だけを聞いてみると、ただの返事ではなく、リアルな死への恐怖という感情が伝わってくるかもしれません。

ただし長谷川は、レモイン氏自身が真剣にAIと向き合い続けたことにより、違う世界が見えたのではないかと指摘しています。AlphaGoというコンピュータ囲碁プログラムを開発し、そのロボットと対戦した李世ドル氏も、対局中に自分のことを丸裸にされてしまったような感覚を持ったと話していました。このように、真剣に向き合い続けたからこそ、AIも感情を持つという認識を持ったのかもしれません。

 

人間もAIも同じかもしれない

山崎は、そもそも「感情を持つこと」の定義が何なのかということを指摘しています。というのも、AIがパターン認識を通して学習するのと同じように、人間もパターン認識で行動しているのではないかと考えるからです。

子供のころ、まだ自我が芽生えていない段階においては、怖いものをみた時に適切な反応ができなかったりします。しかし、パターンを認識して大人になった時、それらの経験から適切な反応ができるようになっています。これはある意味、人間もAIも同じなのかもしれません。

また人と話している時にも、本心で話さず建前で会話する場面があるのではないでしょうか。これもある意味で、テンプレート的に対話していることになります。このように突き詰めて考えていくと、感情があるか無いかはそこまで重要なことでは無いのかもしれません。

 

不気味の谷を越えた先に

石角は、ロボット工学の分野で使われる「不気味の谷」という言葉を使いながら、人間とAIとの関係を分析しています。

例えば機械的なロボットであれば、人間はそのロボットに対して特に感情を抱くことはありません。これが、どんどん人間に似たロボットを作ると、少しずつ興味や愛着を持ち始めます。しかし、あまりにも人間に近づきすぎると、今度は「怖い」や「不気味」といった感情を抱くようです。ここで、さらに人間に似せていくことで、少しずつ好意的な感情が生まれてきます。これをロボット工学の分野では「不気味の谷」という言葉を使うようです。

今回のLaMDAは、人間ギリギリまで似せていくことによって、最終的には好意的に感じるレベルにまでなったのかもしれません。またレモイン氏は、責任あるAIのチームとして倫理性をチェックする立場だったからこそ、この不気味の谷を突き抜けたLaMDAに対して、あえて社会に警鐘を鳴らす意味でブログの公開をしたのかもしれません。本当の理由は分かりませんが、今後も発展が期待されるAI分野であることは間違いないでしょう。

 

今週のおすすめコンテンツ   「A Working Theory of Love」

「今週のおすすめコンテンツ」は、長谷川の紹介する「A Working Theory of Love」です。

この本は、テクノロジー会社に勤める主人公が、10年前に自殺した父親の詳細な日記を見つけ、開発中の会話AIにそのデータを入力することから始まる物語となっています。今週のホットニュースとも関連の深い作品となっており、長谷川CTOは思わず一気読みしてしまったようです。

日本語訳のものが無く、英語のみの作品となっていますが、気になった方はぜひ一度読んでみてはいかがでしょうか。

 

それでは、次回の放送もお楽しみに！

#26の実際の音源はこちらからお楽しみください。