投稿日:

ラグビーの”東の聖地”として有名な熊谷に行ってきました（W杯観戦「サモア対トンガ」）

ラグビーワールドカップ日本大会、2019.9.20からいよいよ始まりましたね

開幕戦＠東京スタジアムや、南ア対NZ＠横浜スタジアムでは満席のラグビー ファンという素晴らしい光景が広がっていました、まさか日本でこの光景を見られるとは。。。。そして昨夜は東の聖地こと熊谷にも足を運びました。

駅を出るとさっそく衝撃的な光景！

各国代表を応援するメッセージが掲げられた旗、サモアやロシアのジャージを着た観戦客、地域の文化を紹介するコーナー。足元にもラグビーの街、熊谷といったペイントが以前からあり、本当に上下左右どこを見てもラグビー一色でした。

ラグビーで街が盛り上がるとはこういうことなのか！と、ただただ感動しっぱなし

 

課題視されていた駅からスタジアムまでのバス運行もなかなかスムーズでした。バスを縦列に何台も並べて並列クエリを形成するように誘導しながらどんどん乗車して行きます。整列のプロとして有名な日本人の底力をみた気がします。３.５kmの道のりに定期的にスタッフさんが立ってくれていて、笑顔で手を振ってくれます。

ファンゾーンでは日本酒や地元フードが500~700円程度の良心的な値段で楽しめます。試合会場ではハイネケン500mlで1000円という強烈な値段設定ですが、こちらはお手頃価格。あと、昨夜のステージではゲストにはなわさんが登場して「跳んで埼玉」のテーマソングを熱唱、めっちゃ埼玉をdisってました笑

また、試合では地元の中学生も招待されていた様子で、ロシアコール、サモアコール、ウェーブにと、創意工夫を凝らして子供達が大会を盛り上げてくれる様子は感無量でした。

なお、試合はサモアの勝利。タイトなスケジュールの影響もあたのかロシアは後半足が止まり始めて、サモアに気持ちよく走られましたね。

 

投稿日:

マウスのドラッグが途切れる『チャタリング』の対策

結論：電池を抜いた状態で左右のクリックをカチカチ、これを２０秒ほどする、以上！！

 

解説：「チャタリング」とはマウスの不具合（というより故障）の一種。ドラッグしたつもりがドラッグできていなかったり途中で途切れたりする。主な原因は内部にたまった静電気。上記の方法で静電気を抜いてやるとよい。

 

投稿日:

TASK2VEC: Task Embedding for Meta-Learning

 

TASK2VEC: Task Embedding for Meta-Learning

論文　https://arxiv.org/abs/1902.03545

タスクの類似度評価指標を提案。

ImageNETでpre-trainしたモデルを、タスクにあわせてClassifier部分だけretrainする。

そのあと、どのクラス出力と、どのChannel（Filter）の関係性が大きいのか、フィッシャー情報量を利用して評価する。

イメージとしては、重みWに摂動ΔWを加えたときに、予測出力が大きく変化する（KL距離で評価）ような場合は、クラス予測によって重要な特徴量であると言える。

実験結果では、全く異なるデータセットではあるが、たとえば鳥の種類を識別しようとしているタスク同士がEmbedding後の空間で近傍に射影されるなどしている。

（なお、これだったら特定タスクを解くときにどの特徴量がActiveになっているか？を評価するだけでタスク空間を得られる気がするが、どうやらそれでは上手くいかなかった様子。識別に用いない特徴量が関係なくActiveになることがあるからかな？）

投稿日:

【9月でもチャンスあり！】ラグビーW杯のチケット（開幕戦＆決勝戦）をゲットした手順

はじめに、この方法で私は８月末になってからでも開幕戦と決勝戦を２枚ずつ手に入れました。（正直もうあきらめてました）

もう既にこの手の釣りサイトが多いと思うので、釣りでないと安心頂くために結論だけ先に書きますね。ラグビーファンが少しでも希望のゲームを観戦できるよう願いを込めます。

０．不正な方法は使いません、ただし確実にチケット確保できる保証もありません

１．狙うのはリセールチケット

２．毎日11:20~14:00が在庫復活しやすい

３．在庫復活前から『買い物かごに入れる』を繰り返しクリック（★重要）

公式チケットサイト



ラグビーW杯のチケットサイトは『F5』などでブラウザ更新してしまうと不正アクセスとなったり、再ログインを求められます。これでは再ログイン作業も手間ですし、在庫復活の瞬間に『買い物かごに入れる』をクリックできる確率はグンと下がります。

１番の重要ポイントは、チケットを選択しなくても『買い物かごに入れる』がクリック可能なこと、そして、チケット選択せずに『買い物かごに入れる』をクリックすると『チケットが選択されていません』のメッセージとともに同じ画面がループすること。

つまり『F5』やブラウザ更新をすると不正アクセスになってしまうので、その代わりにチケット選択しないまま『買い物かごに入れる』をクリックすることで在庫状況を更新するのです。

 

↑このように『現在在庫なし』の状況でもいいので『買い物かごに入れる』をクリックして在庫状況を更新し続ける。

 

この方法だとポチポチ押下することで４秒に１回は在庫状況を更新できます。もちろんチケットサイト上で買い物操作をし続けているわけなのでログアウトにもなりません。

あとはリセールの在庫が補充されるのを辛抱強く待つのみです。『買い物かごに入れる』をクリックして画面ループしている間に、パッとチケット在庫補充されて選択可能になることがあり、そのときにすかさず買い物かごに入れましょう。

 

おまけ

さて、ここまでくると『そんな暇人みたいなことできるか！！』と怒りの声が届きそうですね、ごめんなさい。一生に一度なので頑張りたいところですが、精神がすり減ってしまうのでオートクリックなどのツールを使うのもアリです。

投稿日:

『ICML 2019 読み会 in 京都』に登壇してきました

オムロン京都本社にて恒例となりつつある機械学習関連の論文読み会、NIPSにICLRにと開催してきましたが今回はICMLです。

いまのところ毎回登壇して皆勤賞です、今回はGoogle社が提唱したFederated Learning関連の論文を選択しました。

 

簡単に言うと、複数のクライアントがデータを１箇所に集約して機会学習したのと同等効果を、クライアント間のデータ共有なしに非集中環境の機械学習で実現するのがFederated Learningという技術です。

このとき、データ量だったりクラス分布に偏りがあると、あのクライアントのデータはよく識別できるのに、あのクライアントのデータは識別できないといった状況になりうるので、ええ感じに工夫しましょうという論文です。

 

質疑応答の内容はこちらにTweetでまとめています

 

LT枠の発表

こちらもFederated Learning 関連論文から選択

 

個人的に収穫だったのは、生物学的なアプローチをとっている論文を紹介頂けたこと。こういう自分では読まなそうな研究と出会えるのがこの活動の醍醐味でもありますね。

投稿日:

Ubuntuで真っ暗画面のままログインできない

「recommend」と書かれたNVIDIA-driverをinstallしたら画面が真っ暗になった

 

GUIでログイン画面が表示されない
Ctrl+Alt+F1したが仮想コンソールも出ない

このとき参考にしたサイト
https://qiita.com/mdo4nt6n/items/b439b81e7c10b95ee7c5

  1. “Advanced options for ubuntu”で起動
  2. “recovery mode”で起動
  3. rootを選択
  4. コマンドラインで下記を実行
    $ sudo apt-get –purge remove nvidia-*
    $ sudo apt-get –purge remove cuda-*

 

これでGUIは復活しました

で、、、私はいったい何を信じて、どのVer.をインストールすればいいのだ・・？

投稿日:

ICLR2019読み会in京都に登壇しました

ちょっと遅れながらの更新ですが、６月２日に京都オムロン本社で開催されたICLR2019読み会に登壇しました

リンク：ICLR2019読み会in京都

 

私の発表はさておき、ABEJA白川さんのゲスト講演が最高におもしろかった（学術的な興味と笑いを取るという二重の意味でおもしろかった）ので、ここにメモしておきたい。

 

ヒトの機械学習

第１部は、店舗ソリューションの話、年齢推定がなぜ難しいかという話。

第２部は、アノテーションを正確にすることの重要性の話。

第３部は、感情推定と双曲空間の話。

個人的に気になったのは２点、アノテーション品質を定量的に測ることが出来るのメトリックが求められるようになってきているのではないか？、そして平面と球面と双曲空間の使い分けについて（それぞれに適した典型的なデータ例は何か？）

前者についてはその場で質問させて頂き、メトリックの必要性は勿論YESで、センサ側とあわせて一緒に努力を重ねていこうという結論に。

私の発表

25分の論文紹介だけでなく、LT枠でも発表しました。幸いにもたくさんのご質問を頂戴して、多くの方に発表内容をご理解いただけたのかなと思いました。

質疑応答も途中で誤魔化さずちゃんと徹底的に議論できますた。関東から参加してくださった学生様からとても詳細で鋭い質問を頂きました。おかげで楽しいディスカッションが出来たと同時に、周囲の理解も深まったように感じます。（ありがとうございました）

 

 

 

コンセプトとして学術的な内容を現場価値に繋げるというものがありまして、論文内容の理解に留まらず、どんな使い方があるか？誰にとって役立つかということまで議論ができて、今回もとてもよい１日となりました。

運営の皆様、ご発表の皆様、参加者の皆様、ありがとうございました。

投稿日:

GANとVAEの一覧とまとめ

久しぶりに記事を更新します、ロードローラーです。

今年はICMLとCVPRがロングビーチで連続開催ですね！

潜在空間の操作やDisentangleが大好きな私としては周辺研究をチェックしてきたいと思います。

そんなこんなで、出国前に軽く整理しようと思ってまとめました

 

VAE

AutoEncoderの潜在変数（中間特徴量）のｚに事前分布を仮定する。これにより特徴量の連続性を担保したり、潜在変数がスパースになること防ぐ。

β-VAE

VAEでは潜在変数の分布が仮定した事前分布にFITするように、KL距離を最小化させるような制約を設ける。このKL距離による制約を変数βによって調整すると、分布をフィットさせる圧力が強くかかる。その結果として潜在変数の各成分の独立性が増して、MNISTだと角度や文字太さといった成分が潜在変数の特定の成分に対応するようになる。

なお、学習がある程度進むと『全ての成分が独立』というのは実現困難らしく、相互情報量を許容するためにKL距離をゼロに近付けるのではなく定数Cに近付けるようにする。これにより情報損失（潜在変数ｚから元々のデータｘが復元できない状態）を防ぐ効果がある。

joint-VAE

β-VAEでは潜在変数をだいたい正規分布にフィットさせていた。これではdisentangleに成功してsemanticで独立な成分を抽出できたとしてもContinuous(連続値)のみとなってしまう。実際にはMNISTにおけるDIGIT-ClassのようなDiscrete(離散値)も存在する。そこで、GumbelSoftmax分布をβ-VAEに併用することで離散値にも対応可能に拡張した。

GAN

もはや説明不要だろう、元データｘと、ノイズｚから生成したｘ’を見分けられないように（分布が重なるように）学習することで、本物そっくりのX’を生成する。

Conditional-GAN

GANの弱点として、（生成画像は本物らしければよいので）なるべく生成が得意なパターンのｘばかり生成してしまう性質がある。

例えばMNISTでGANを学習したとき、たまたま『８』は上手に生成できるようになったとしよう。このとき、『８』ばかり生成しておけばDiscriminatorを騙せるので、結果的に『８』ばかり生成して、他の数字は生成されにくくなる欠点がある。

これに対処したのがConditional-GANである。Generatorに条件ｙを一緒に入力することで条件に適したｘ’を生成させる。Discriminatorにも条件ｙを一緒に入力することで、ｘ’が本物らしいかどうか？という判定と同時に、条件ｙに適しているかという判定もするようになる。（条件ｙに適していなければ、例えばｙに『２』を指定したのに『８』が生成された場合、即座に生成データと見抜かれてしまう）

info-GAN

Conditional-GANは条件指定しながら画像生成できるようになる技術だったが、それに対してInfo-GANの目的はDisentangle Representationの教師無し取得にある。

ノイズｚとは別途で変数ｃを設けておいて、生成されたｘ’とｃの相互情報量が大きくなるよう学習する。すると、結果的に変数ｃがConditionに対応するようになる。

pix2pix

異なるドメインのペア画像を大量に準備して、敵対学習によってドメイン変換方法を教師付き学習する。大量のペア画像を準備しないといけない点が課題視されている。

Cycle-GAN

pix2pixのペア画像を準備しなければならない課題を解決して、Reconstructionと敵対学習をベースとして教師なしにドメイン変換手法を学習する。

star-GAN

Cycle-GANでは学習によって構築したモデルは１：１のドメイン変換が出来る。しかし言い換えれば、ｎパターンのドメイン変換をするにはｎ回のモデル構築が必要となる。

そこで、１：ｎのドメイン変換を一気に学習できるよう拡張したものがsstar-GAN。

 

以上

投稿日:

USPS download link has changed

if you have “wget can’t download – 404 error” when downloading USPS dataset, please update url.

OLD

“https://raw.githubusercontent.com/mingyuliutw/CoGAN_PyTorch/master/data/uspssample/usps_28x28.pkl”

New

“https://raw.githubusercontent.com/mingyuliutw/CoGAN/master/cogan_pytorch/data/uspssample/usps_28x28.pkl”