【The Insight】最新コンテンツ紹介
自然言語処理の世界に衝撃をもたらした「GPT-3」
その根幹を成すトランスフォーマーと注意機構とは

「The Insight」では、現役データサイエンティストのキュレーションにより選びぬかれたシリコンバレー発の技術と戦略を交え翻訳した技術論文をお届けしています。そんな有料ニュースレターより一部を抜粋してご紹介いたします。
ーーーーー
レターNo. 005
自然言語処理の世界に衝撃をもたらした「GPT-3」
その根幹を成すトランスフォーマー（Transformer）と注意機構とは

シリコンバレーから現役データサイエンティストのインサイトをお届けする「The Insight」。
今回は、昨今注目を集めている自然言語処理モデル「GPT-3」と、使われている深層学習モデル「トランスフォーマー（Transformer）」、その技術的根幹である「注意機構（Attention Mechanism）」についてご紹介します。

今回の記事から得られる３つのナレッジ

• イーロンマスクが作ったアメリカの非営利団体であるOpenAIについて理解できる
• GPT-3の概要と自然言語処理に与えた影響
• トランスフォーマー（Transformer）と注意機構の仕組み

AIビジネスデザイナーのワンポイントアドバイス
GPT-3が生成した文章は人間が書いたものと大差ないレベルにまで達しています。パロアルトインサイトでは、GPT-3が発表された直後、OpenAIのCTOから招待を受けてGPT−３にアクセスをすることができたことで早くからGPT-3のプロジェクトでの活用や将来性を検証する機会がありました。特に、要約機能などは性能が高く、とても便利だと実感しました――。

詳細な内容は、会員サイトまたは下記のリンクをクリックしてご覧下さい。

今週の注目カンパニー

フィンランドのヘルシンキに拠点を構えるStageZeroが、AI学習データを生成するタスクをモバイルゲームアプリ内に追加し、ゲーマーに報酬を与える仕様を作るため、180万ドルの資金を調達しました。
同社はゲームスタジオとデータサイエンスチーム向けのデータラベリングマーケットプレイスを運営しており、今回の資金調達によってさらにチームを拡大し、製品の効率性を高め、企業がAIシステムを倫理的な方法で迅速かつ容易に開発するためのツール構築を継続するということです。

これまで、機械学習モデルが特定の文脈を理解し問題を解決できるようにトレーニングするために必要なデータは入手や作成にコストがかかるものでした。しかし、Memory Leak社の調査によると、こうした課題があるにもかかわらず、AI用の学習データ市場が2023年までに50億ドル規模になり、業界の成長率は前年比31%増となるとのことが判明しています。

StageZeroは、モバイルゲームアプリ内に、画像などのラベル付けをユーザー自身にしてもらう機能を導入。ゲームのユーザーは、作業と引き換えにコインなどの報酬や特典を得ることができる正真正銘のゲミフィケーションシステムです。
こうして作られたラベル付きの画像は、無人車、小売りの在庫管理、医療診断など、仮想アシスタントをトレーニングするためのデータとして多くのことに役立つといいます。
今後、モバイルゲーム市場だけでなく、eラーニングのプラットフォームとも連携していくことが想定されます。

AI開発において、教師あり学習モデルを開発する際の教師データ（学習データ）を作成するときにいかに課題が多いかについては、The Insightのメタバースや自動運転の世界で必要になる動画を使ったリアルタイム行動予測の回でご紹介しています。ご興味がある方はご覧ください。

1/27(木) メルマガ登録者限定！無料オンラインセミナー開催　パロアルトインサイト「AI導入事例徹底紹介」

1月27日(木)午前10時から、パロアルトインサイト主催の無料オンラインセミナーを開催いたします。
新たにパロアルトインサイトを知っていただいた方や、これまでの実施回に参加できなかった方、再度勉強して学びを深めたいという方に向け、「DX実現のために必要なAI導入～パロアルトインサイト社事例紹介」という内容でお届けいたします。

前回はホリプロ社の事例を紹介いたしました。
今回は当社のAI導入事例として、ベストパーツ社の事例を基に
－「円密度の高いデータのデジタル化」
－「複雑な現場の情報を学習させるAIモデルとは」
等に焦点を絞り内容を紹介していきたいと思います。

開催日時：2022年1月27日（木）午前10:00～10:30
タイトル：「パロアルトインサイトAI導入事例徹底紹介～データゼロから始めるDX～」
講師：小野 哲矢（パロアルトインサイト　AIビジネスデザイナー）
費用：無料
形式：zoom（「参加する」を押して頂いた方へ事前にリンクをお送ります）

Newsweekスペシャル版「DX2022」巻頭インタビュー掲載

2022年1月18日発売のニューズウィーク日本版・別冊ムック『成功するDX　２０２２』（SPECIAL ISSUE）の巻頭インタビューに、弊社CEO石角友愛のインタビューが掲載されました。同じ巻頭インタビューには、デジタル庁デジタル監の石倉洋子氏のインタビューも載っており大変興味深い内容です。日本の未来のDXについてお話ししています。ぜひご一読ください。書店で手に取って頂けたら感想などを頂けると嬉しいです。

新音声コンテンツ「Level5 by Palo Alto Insight」

より多くの皆様に、DXを通した産業改革の重要性などを伝えるため、音声コンテンツ「Level5 by Palo Alto Insight」を1月27日(木)にローンチいたします。Apple Podcast, Overcast, YouTube, Spotifyなどで一斉配信をします。

これまで、パロアルトインサイトでは創業から100社を超える企業にAIビジネスモデルの提案、構築やDX推進をしてきました。そんな弊社のCEOの石角友愛、CTOの長谷川貴久、そして日本を代表する投資ファンドであるインテグラルのパートナーで、これまで多くの企業支援を行ってきており、石角、長谷川とはハーバードビジネススクールの先輩と後輩という関係で親しくしている山崎壯さんにレギュラーで登壇いただき、最新のニュースについて議論したり、インプットの為のおすすめコンテンツと紹介したり、和気あいあいとお話ししていきます。

ビジネスについてだけでなく、これから良いキャリアを歩みたい人に有益な考えをもたらすコンテンツにしていきたいので、聞いてみたい内容などのリクエストがあれば、問い合わせフォームや石角のTwitterからぜひご連絡ください！

毎日新聞連載「石角友愛のシリコンバレー通信」
大退職時代最前線：シリコンバレーのインド系移民はなぜ母国に帰るのか

毎日新聞の連載「石角友愛のシリコンバレー通信」が掲載されました。

アメリカでは、コロナ禍の2021年に自主的に退職する米国人が増え、これを「大退職時代」と呼び話題となっています。
2022年には、この動きが移民にまで波及し、シリコンバレーの”移民”大退職時代がやってくるかもしれません。なぜIT業界で活躍する優秀なインド系移民が母国へ帰っている動きが増えているのか、その背景について寄稿しました。

三菱UFJモルガン・スタンレー証券
機関投資家向け勉強会に登壇

1月20日(木)に、三菱UFJモルガン・スタンレー証券の機関投資家向け勉強会に登壇いたします。
内容は「リテール業界のDX」についてアメリカの最新事例を紹介します。
EC事業者が拡大するなかで、店舗を持つ小売企業がこれまでいかにして対応してきたか、DX事業が先行している米国の最新事例を知りたいとの要望をいただき、アマゾンに負けず、コロナ禍でも成長を続けているウォルマートに着目し、比較しながらお話ししたいと思います。
・アマゾンとウォルマートを比較してECサイト、物流サービスなどの点で優れている点や課題について
・消費者はウォルマートの店舗とECをどう使い分けているのか
・ウォルマートは店舗網が薄い都心部のシェアを伸ばせたか
・ウォルマートは巨大なIT投資をしていると聞いているが、とくにどういった投資に力を入れているのか

今回は機関投資家向けで、一般の方はご参加いただけませんが、セミナー内容は後ほどブログコンテンツとして原稿化も予定していますので楽しみにしていてください。

海外AI技術論文をデータサイエンティストの解説やAIビジネスデザイナーのアドバイス付きでご紹介する有料ニュースレター「The Insight」は、今週で10つ目の記事となり、「メタ学習とマルチモーダル」についてご紹介予定です。

The Insight は12月のローンチから来月で3ヶ月となります。そのような節目に、The Insight の会員限定で3ヶ月に1度の読書会を企画しました。

記念すべき第1回目は
2022年2月19日（土）午前9時 から午前10時
参加費：無料 (The Insight ご登録者限定)
形式：Zoomによるオンライン

パネリスト
石角友愛　パロアルトインサイトCEO・The Insightチーフエディター
長谷川貴久　パロアルトインサイトCTO
嶋崎孝平 The Insightエディター・AIコンテンツマーケター

普段抱えている課題や記事からの質問など、活発な交流の場を提供してまいります。

この機会にぜひThe Insight へご登録ください！

パロアルトインサイトの社員は、シリコンバレーをはじめ、シアトル、スペイン、東京など世界各地で働いています。そんなパロアルトインサイトのチームメンバーが毎週リアルな写真を共有したいと思います！

フルリモートで働くのってどんな感じなのか？トップエンジニアやデータサイエンティストの机やキーボードに対するこだわりは？シリコンバレーのファーマーズマーケットの様子などの身近なネタから、アメリカの注目すべきカンパニーの情報や、最新ニュースなどを画像でまとめて紹介しています。
興味がある方は、インスタグラムもぜひフォローをお願い致します。

パロアルトインサイトCEO　石角友愛