日本企業に広がるAI活用、一方で規制の策定には難しさも

石角友愛氏（以下、石角）平井議員には2021年6月、初代デジタル改革担当大臣として連載の初回にご登場いただきました。現在は自民党のデジタル社会推進本部の本部長として、AIやWeb3（ウェブスリー）に関する首相への提言など精力的に活動されています。そのご活躍ぶり、米国からまぶしく見ておりました。前回の対談からの約2年間でChatGPT（チャットGPT）の登場をはじめ、AIを取り巻く環境は大きく変化しました。

平井卓也議員（以下、平井）まさにそうですね。日本ではAIを業務で活用する企業が増えています。今後はAIを使いこなす企業と、そうでない企業の差が広がっていくと考えています。

石角　私もそう思います。ビジネスでAIを導入した場合、翌日に成果が出ることはまずありません。それに導入時は現場の反発が起きやすく、その後も定着にまた別の壁が立ちはだかります。それらを乗り越えるためには、最低でも半年はかかるでしょう。それを考えると、今AIを導入する企業と半年後に導入する企業では、機会損失や先行者利益といった点から大きな差が生まれるはずです。ですので私は企業の皆さんには、ぜひ早めに積極的にAIを使っていただきたいと思っています。平井議員は、日本企業がAI導入を進めていくべきだとお考えですか。

平井　ええ、私も企業にはどんどんAIを使ってもらいたいと思っています。一方で、AIの規制についてもきちんと考えなければいけません。今はEU（欧州連合）が先行する形で議論が進んでいますが、規制というのは口で言うのは簡単でも、実行するのはかなり難しい。ともすると「テクノロジーを使ってはならない」という話にもなりかねません。ただ問題点というのは利用していく中で見えてくることも多いため、今はまず使ってみて、その過程で人権侵害や人の命に関わる領域で問題点が判明した場合には、ガイドラインを策定しようという流れになっています。

石角さんがいらっしゃる米国のAI規制の状況もぜひ教えてください。

平井卓也氏。デジタル庁発足前にデジタル改革担当大臣などを歴任し、2021年9月1日、初代デジタル大臣に就任。

デジタル庁の基礎をつくった

石角　米国ではやっと具体的な議論が始まったところで、まだ統一された方針はありませんね。そのため教育においては、AIを積極的に使っていこうとする推進派の学校もあれば、州として学校での使用を禁じている保守的な学校もあるなど、ばらばらです。

ただ今の時代、たとえ規制をしたとしても、まったく使えないようにするのは無理です。そこで中学生など若い世代の方々を模擬議会のような場所に呼んで、「AIを社会で正しく使うためにはどういう法律が必要か」というテーマで話し合ってもらうなど、子どもたちを巻き込んだ取り組みが始まっています。

AIのリスクをきちんと伝えずに使用を許可するのではなく、頭ごなしに禁止するのでもない。みんながある程度納得できるラインを見つけるため、一緒に考えようという事例が出てきています。

平井　とても興味深いですね。AIとの向き合い方、規制を考えるうえで、AIネーティブの世代の意見を聞くのは大事なプロセスだと思います。

「嘘をつく」生成AI、リスクの理解が重要

石角　AIの活用については様々なメリット、デメリット、リスクが指摘されており、世界で大きな議論を呼んでいます。平井議員は実際にChatGPTを使っていて、これらの点についてどのようにお考えですか。

平井　ChatGPTは自分が理解している分野で活用する場合には、素晴らしいツールだと思います。ただ平気で嘘をつくことがあるため、あまり詳しくない分野で使うことには相当なリスクがある。「物知りだけど、平気で嘘をついてしまう人」と認識して、割り切って使うことが大事だと思いますね。

石角　とても分かりやすいですね。そうやって割り切ることは大事だと思います。今のChatGPTでは、回答に対する“自信度”のようなものは表示されません。そのため「嘘をついている」のか、そうではないのか、見極めが難しいと感じます。企業が専門外の領域でChatGPTを使う場合には、「専門家の意見を仰ぐ」「重要な意思決定の場ではChatGPTの回答をうのみにしない」といった、ルールを定めておく必要があると思います。

米国ではChatGPTを授業で導入し、家庭教師のように活用している小学校があるのですが、生徒には「プライベートな情報は入力しない」というルールをきちんと伝え、画面のチャットボックスにも常に表示させているそうです。先生や親がモニタリングできる機能もあるそうです。

とはいえ、ルールがあっても人間はミスをする生き物です。ミスは起こるという前提の下で、それをできるだけ回避するようなUI（ユーザーインターフェース）とUX（ユーザーエクスペリエンス）が求められると思います。

平井　教育現場での利用については日本でも議論が進んでいて、23年7月には文部科学省が生成AIの学校での取り扱いについて、暫定的なガイドラインを公表しました。具体的には読書感想文などのコンクールでAIが作った文章をそのまま使うのはよくない、といった内容なのですが石角さんはご存じですか。

石角　はい、ガイドラインは読みました。ただ「AIを使ってつくったものではない」という証明は「AIを使ってつくった」の証明よりも難しいと思っています。もし生徒がChatGPTを使っていないのに使ったと疑われた場合、精神的ショックは計り知れませんし、学習モチベーションの低下も心配です。

それに「使った・使っていない」の議論というのは、本質的ではありません。生徒の気持ちや学習意欲に寄り添った指針、またそれが実行されているかを確認できる仕組みをつくることは、別次元の難しさがあるのだなと感じました。

「生徒の気持ちや学習意欲に沿ったAI指針が必要」と指摘する石角氏。ITキャリア推進協会の研究会で、平井氏と対談した

創造性の時代に合わせた脱・平均点教育

石角　AIが日本の教育現場にもたらす影響について、平井議員はどのようにお考えですか。

平井　ChatGPTの登場によって、社会の評価軸は変わると考えています。これまでは、何でも知っていて平均点が取れることが“良”とされてきました。ですが今後はAIを使って新しいアイデアを生み出せること、AIをクリエイティブに使いこなせることが評価されるようになるでしょう。そういう人材の育成につながる教育が求められていくと思っています。

石角　同意見です。ChatGPTを中心としたAI時代には企業の採用基準が変わり、求められるスキルセットも大きく変わると思います。

シリコンバレーで最も有名なアクセラレータ「Yコンビネータ」をつくったプログラマのポール・グレアム氏は「生成AIの登場により、今までエンジニア80人で作っていたものが8人でできるようになる」と発言しました。人とお金の潤沢なリソースがなく、80人ものエンジニアを集めることが難しかったスタートアップにとっては大きなチャンスが生まれるでしょう。

エンジニアとして社会で求められる人材の条件そのものが変わってくるはずなので、今までと同じような仕事や勉強の仕方をしていては生き残るのが難しいということも示唆していると思います。

平井　その通りだと思います。これからの時代、プログラムを書くという作業はAIと共同で行っていくことになるでしょう。日本では20年から小中高校で順次プログラミング教育が始まっていますが、プログラミングの知識がまったくなければ、書いたプログラムに間違いがあっても気づけません。そのためプログラミングの基礎を学んでおくことは重要です。ただエンジニア自身がゼロからプログラムを書くことは、この先なくなっていく気がします。

石角　その点についてはエンジニアの危機感は強く、私も「AIの登場で仕事がなくなるのではないか」と心配する声をよく聞きます。シリコンバレーでは、数年前まではエンジニアは高収入が保証されていて「歩く金」と呼ばれていました。

ところが最近はGAFAM（アップルやマイクロソフトなど米国のテック大手）をはじめ、各社がエンジニアの解雇を進めています。経営者たちが、どこまでならエンジニアの数を減らしても生産性が維持できるのか、試しているのではないかと思うほどです。そうなってくると、特定の言語しか扱えないエンジニアよりも、トレンドに敏感で、新しいものを素早く柔軟に取り入れるエンジニアの方が重宝されるようになるでしょう。もう「エンジニア=安泰」ではなくなってきています。

（後編につづく）

https://xtrend.nikkei.com/atcl/contents/18/00509/00045/