ICMLとは
正式名称は『International Conference on Machine Learning』。毎年開催される機会学習のトップカンファレンスです。2018年は水の都ストックホルムで開催され、全日程参加してきました。
まずは初日のTutorialについて振り返ります。
①Learning with Temporal Point Processes
まずは1発目のセッション。が、初日ということもありRegistrationに長蛇の列が・・・
Ragistrationは恒例の長蛇列 #ICML2018 pic.twitter.com/QGxrLx2gOg
— 岡本大和 on ロードローラー (@RoadRoller_DESU) 2018年7月10日
結局、列に50分ほど待たされてTutorial会場には入れた頃には半分が過ぎていました、悲しい。資料公開されてるので後で読んでおこう(たぶん)
Tutorialの資料: http://learning.mpi-sws.org/tpp-icml18/
②Toward theoretical understanding of deep learning
2発目のセッション。なんとも思い切りのいいタイトルを付けたもんだなぁと思いつつ参加。
theoretical understandingっていうくらいなので、どんなものかと思っていたら序盤はDeepLearningの入門編的な話ばかりでした。そのせいでついついウトウト・・・
としてたらこのスライドで目が覚めました
まてまて、こんな式が成り立つのか・・・?続きのスライドに証明も書いてましたが私には理解が追い付きませんでした。というか『VC dimension, Rademacher』がわかっていない。気になった人は是非ご自身の目でお確かめください。
Tutorialの資料: http://unsupervised.cs.princeton.edu/deeplearningtutorial.html
③Variational Bayes and Beyond: Bayesian Inference for Big Data
そして最後のセッションは変分ベイズ!! なんというか、変分ベイズって宗教色が濃いイメージあるんですよね(暴言)。とか言いながらかなり楽しいセッションでした。
変分ベイズのチュートリアルめちゃめちゃ面白かったです。前半は主に計算量の工夫と、後半はサンプル選びの工夫について述べられていました #ICML2018 pic.twitter.com/coLLVGRjsV
— 岡本大和 on ロードローラー (@RoadRoller_DESU) 2018年7月10日
ベイズ推定の基本の枠組みとしては『このデータが観測されたということは、もともとの分布はどういうものだっただろう?』と推定することです。このとき、観測値を適切に選ぶとベイズ推定の効率と精度、つまり少ないデータで高精度に分布を推定できるという話が非常に面白かったです。
↑Tutorialの資料。境界付近などデータを上手にサンプルしながら推定している。
Tutorialの資料: http://www.tamarabroderick.com/tutorial_2018_icml.html
おまけ
企業ブースには相変わらずGoogleやFacebookなどが出店していました。Microsoftのブースにて『Write your University』という企画がなされており、Kyoto Universityと書こうと思ったら誰かに先を越されていました。悔しい。
#icml2018 くっ、先を越された pic.twitter.com/SJBgdYMIHy
— 岡本大和 on ロードローラー (@RoadRoller_DESU) 2018年7月10日
などと呟いていたら記入したご本人様からご連絡が(笑)
きったない字で微妙な位置に書いてしまい非常に申し訳なく・・ https://t.co/mZVJfOwFNb
— ÅО (@AO54289452) 2018年7月11日
ということで(?)加筆などしてきました
目立たせてきた #ICML2018 pic.twitter.com/85fWeNsQte
— 岡本大和 on ロードローラー (@RoadRoller_DESU) 2018年7月11日