今日からは「ワークショップ」という形式に変わり、テーマ別にいくつかのワークショップが平行で走るようになっています。ワークショップのテーマは以下の４つです：

1. Metalearning：昨日Pieter Abbeel氏が話していた学習の仕方を学習するというメタラーニング
2. Kinds of intelligence：知識とは何かという定義を見直そうという内容
3. Deep Reinforcement Learning：ディープラーニングの強化学習への応用
4. Interpretable Machine Learning：解釈可能な機械学習のための研究

私はアルファ碁について興味があるし、David Silver本人（アルファ碁の開発リーダー）にも会いたかったので３番の強化学習のワークショップに参加していました。１番バッターが彼だったので良かったです。今週また新たに発表した、アルファゼロについての説明があったので、食い入るように聞いていました。アルファゼロは、囲碁だけでは満足できず、同じ手法を使って学習データなしの状態からチェスとなんと将棋をアルファゼロに学習させ、世界のトップAIに勝たせるという快挙を成し遂げました。後々少しDavid Silverと話す機会があったので、「将棋のドメインエキスパートがいないようですが、その不在により何か課題などはありましたか」ということを聞いてみました。というのも、囲碁については、論文自体の作成にファン氏という欧州チャンピオンの囲碁棋士が関わっていたし、チェスについては、DeepMindの創設者であるDemis Hassabis氏はチェスのチャンピオンですが、論文を見る限り、将棋の深い知見を持つ人間がいないように見受けられたからです。彼の答えは、囲碁もチェスも、ドメインエキスパートの知見を借りたのは最終的な結果を見せて「本当に強いのか」という確認をしてもらった程度で、実際のAIの学習においては彼らのインプットをもらっていないとのことでした。

次のスピーカーはJoelle PineauというMcGill大学の教授でFacebookのMontreal研究所所長です。彼女の元で研究していた博士や学生が、業界の最先端の研究を再現するために苦労しているのを見て、機械学習の研究の再現性を高めるためにはどうすれば良いのかという話をしました。研究者に対するアンケート調査によると、「今、研究の再現可能性は危機的状況にあるか」という問いに対して、52％がYes、さらに38％が「ちょっと危機的」とほぼ９割の研究者が問題有りと認めていることを発表していました。解決策として、例えばモデルをチューニングするときの変数であるハイパーパラメータを明記することや、プログラムを流すためのコードを公開することなどを勧めていました。それに対して、前の講演者だったDavid Silver氏が「どこかで折り合いを付けなければ技術革新のスピードが落ちてしまうのではないか」という質問を投げかけていました。このようにトップレベルの研究者がただ単に自分の発表をするだけではなく、他の講演内容も真摯に聞き入って納得がいかない点や気になる点があるとちゃんと公共の場で質問するというところもすごいなと感じました。この動画はそのときの様子です。

最後に、今年のNIPSはInterpretable Machine Learningというのが一つの大きなテーマで、機械学習のモデルを解釈できるようになるための研究が発表されていました。そのワークショップの締めくくりとして、Yann LeCunをはじめとする研究者４名が議論するという面白い趣向がありました。議題は「Interpretibility is necessary in Machine Learning（解釈可能性は機械学習において不可欠である）」でした。下のビデオはその「選手紹介」の部分です。ちなみにNIPSのビデオはほとんどがNIPSのFacebookページでライブ配信されその後公開されています。精度がめちゃめちゃ高くて、しっかりテストされていれば解釈可能性は関係ない、という反対派に対して、何が起きているか分からない（ブラックボックスな）モデルを導入することは倫理に反するといった肯定派の主張がありました。