こんにちは、CTOの長谷川です。

機械学習カンファレンスのNIPSに到着しました！今年の会場はロスアンゼルスのロングビーチです。パロアルトから車で約６時間なので、友達と運転してきました。壮大なカリフォルニアの風景を見ながら、ロス関数についてああでもないこうでもないとか議論していたら、あっというまにホテルに到着しました。これは、ドライブしているときの風景です。

最初はDeepMind社からディープラーニングの現状とトレンドに関する発表で、内容としてはConvolutional Neural NetworkやRecurrent Neural Networkから始まり、なぜカーネルサイズが３X３になるのか、オーバーフィットしているときはどうすれば良いか、などの実践的なアドバイスが多かったです。DeepMindはアルファ碁ゼロを完成させる過程で、いくつもの実践的な難問を解いて来ただけのことがあり、いろいろな示唆を得ることができました。また、最近のトレンドとして、Generative Model、つまり今までに機械が見たことがない内容を出力するモデルについて触れていました。

夕方にはNIPSの運営側から「ようこそNIPS2017」という発表があり、正式なキックオフという流れです。今年はものすごい人気で8000人近い登録者数で、30年前に数十人の前でNIPSを始めたときはまさかこんなことになるとは思っていなかったと言っていました。会場に来ていた人間のうち約半分は初めてNIPSに参加すると言っていたので、機械学習に対する関心が高まっているなと感じました。他にも以下のようなメトリクスを発表していました。

• 3249 papers sent out for review
• 156 subject areas (most popular “Algorithms”, second “Deep Learning”)
• 7844 unique authors
• 10% women 90% men
• 12% industry 88% academia
• 2093 reviewers
• 183 area chairs
• 26 senior area chairs
• 679 accepted / 3249 submission = 21% acceptance rate

初日の最後の発表は”Powering the Next 100 Years”というタイトルで、素晴らしい発表でした。テーマはエネルギーの枯渇に対する解決策として、機械学習を応用できないかというものです。今のまま人類がエネルギーを消費し続けると、約0.2ヨタジュールのエネルギーが必要で、石油や天然ガスなどのエネルギー源はもとより、ゼロカーボンのエネルギー源を合わせてもその量のエネルギーを作り出すことは不可能らしいです。そこで、フュージョンという新しいエネルギー源の開拓に、機械学習を応用しようという内容でした。話のスケールの大きさと、そのような重要な課題に対して機械学習の応用分野があることを知れて刺激になりました。

夜はポスターセッションと言って、それぞれの研究者が自分の研究内容をポスターにして、研究内容を発表するというものです。研究者に各自の研究内容について聞く良い機械なので、皆夜遅くまで熱心に聞いて回ります。