【前編】Whisper：OpenAIの弱教師あり学習による音声認識革命

今週のテーマ：技術開発

OpenAIが音声認識に関する新たなアプローチを提唱した論文「Robust Speech Recognition via Large-Scale Weak Supervision」で紹介された、教師あり学習と教師なし学習の中間に位置する「弱教師あり学習」という新たな手法について紹介します。研究では、インターネット上の多言語・多タスクデータセットを用いて、全体で68万時間にも及ぶ大規模な学習を行いました。その結果は、従来の教師あり学習に匹敵するもので、新たな可能性を提示しています。これにはどのような技術が使われ、どのような成果が得られたのか、前編と後編に分けて紹介していきます。

💡 この記事から得られる３つのナレッジ

・モデルワーク
・弱教師あり学習
・音声認識研究

論文タイトル：Robust Speech Recognition via Large-Scale Weak Supervision
発行日：2022年 9月21日
URL：https://cdn.openai.com/papers/whisper.pdf

目次

はじめに

弱教師あり学習

音声認識研究の歴史

はじめに

音声認識技術は、バーチャルアシスタントやテープ起こしサービス、言語学習、障がい者のアクセシビリティなどの分野で活用されていますが、自然言語の多様性と複雑性が課題となっています。従来の音声認識モデルは、大量のラベル付きデータが必要な「教師あり学習」に依存していました。

そのような中発表されたOpenAIの論文「Robust Speech Recognition via Large-Scale Weak Supervision」について紹介します。この論文を発表したOpenAIの研究者らは、弱教師あり学習（weakly supervised learning）を用いた音声処理システムの能力を調査しています。これはインターネット上に存在する680,000時間に及ぶ多言語・多タスクのデータセットを使用したモデルで、標準的なベンチマークにおいて先行する完全教師あり学習の結果と競るほど良好な結果を出しています。

弱教師あり学習のメリットは、非構造化データソースから自動生成されたノイズや不完全なラベルを利用することで、アノテーションを必要とせずに学習データ量を拡大することができる点にあります。

Whisperモデルは、音声認識と翻訳タスクのために開発され、音声を話した言語のテキストに書き換える（ASR）だけでなく、英語に翻訳する（音声翻訳）ことが可能です。OpenAIの研究者は、大規模な弱教師あり学習で訓練された音声処理システムのロバスト性（様々な外部の影響によって影響されにくい性質）を研究するために、このモデルを開発しました。Whisper のモデルカードに記載されている下記の表は、サイズや機能の異なる9つのモデルテーブルです。

（画像引用：https://github.com/openai/whisper/blob/main/model-card.md）

モデルカードとは、AIモデルをつくる際に特定のアルゴリズムについて簡潔に説明するフレームワークで、モデルの基本情報、利用目的、要因、指標、評価データ、学習データ、定量的分析、倫理的配慮、注意書きと推奨事項、などにより構成されています。

モデルカードについては、過去記事「InstructGPTとアライメントとは」で詳しく解説しています。併せてご覧ください。

弱教師あり学習

機械学習における一般的なアプローチは教師あり学習ですが、これには大量のラベル付きデータが必要であり、一般化や自然言語の多様性の把握に限界があります。一方で教師なし学習は、ラベル付きデータが不要であり、教師あり学習より優れる面がありますが、自然言語の意味や構文構造を理解するのが難しいという限界もあります。

　PAIoneerPRO会員に登録 ▷　
PAIoneer PRO
詳細はこちら

Already a member? ここでログイン

BERT(自然言語処理)の学習時間を削減する「モデル圧縮」とは

AI開発：ディープラーニングにおける次元の呪いとは？

音声からうつ病を検出、ディープラーニングと予防医療の可能性

Microsoftの音声合成AIモデル「VALL-E」の可能性

OpenAI CEOサム・アルトマンが語るビジョンとChatGPTの未来

OpenAIも取り組む「AIアライメント」-言語モデルのリスク緩和策