カイヤン雑記帳

カイヤンがやったことを書いておいたり、ぼやきたいことを書き込んだりする場所

【IQ1AdC】新しい生活様式におけるIBIS2020参加報告【12/8】

おはようございますまたはこんにちはまたはこんばんは。カイヤンです。

本記事はIQ1AdCの8日目です。

IQ1AdCはみんなでIQ1なことを書くAdCです。毎年、IQ1なことを書いてきました。

今年は従来よりもっともっとIQ1な感じで行きます。 具体的には、学会参加報告をそのまま用います。 完全なる使いまわしですね。何でこうなったかと言うと、更新日当日になって存在を思い出して0時過ぎから書き始めたからです。私、怠惰ですね(古い)。

すなわち、聴講メモより上に書いてあることは、基本深夜テンションです。

IBIS2020参加報告

今回は国内最大の機械学習の学会であるIBIS2020の参加報告です。聴講記録メモを後述しています。 今年はオンラインでの開催であり、例年とずいぶん違う形式でしたが、例年以上に楽しむことができました。

過去の参加報告はこちら:

上記と以下を見比べると、ほんとに楽しかったということが伝わる、ハズ。

現地(?)の様子

今年度はこんな状況なのでオンラインでの開催でした。 IBISとしても初のオンラインだったそうです。

コミュニケーション

数理科学の学会なのに初手でコミュニケーションに言及すると某W先生に怒られてしまいそう(参考)ですが、ともかく。

さて、オンライン学会のメリットとデメリットは何が考えられるでしょうか? 考えられる一部を示してみます。

  • メリット
    • どこからでも参加できる
    • 他のタスク(仕事、授業など)の合間に参加できる
  • デメリット
    • 自分の知ってるものしか聞こうと思わない(新しいつながりの獲得や耳学問が困難)
    • どこからでも隙間時間参加できるが故に学会に集中できない場合がある(オンサイトなら出張扱いだが……)

メリットの1つ目は非常に強力で、格安の参加費を払うだけで旅費なしで学会参加できます。 普段なら10万円飛びかねない学会参加の通算費用がなんと数千円で済むのです。これはすごい。

メリットの2つ目の裏返しでもあるデメリットの2つ目は、参加者または発表者としては休暇扱いで全日参加するという方法があります。 カイヤンは有給休暇をとりました。 学会運営のみなさまは……想像できないほど大変だったと思います。この状況でも一般セッション含めて開催していただき、本当にありがとうございました。

さて問題はデメリットの1つ目です。これ、かなり馬鹿にできません。 上記の参考資料でも「人間力・構想力・コミュニケーション力は生きる基盤であり大切なものである」としています。 情報系のギークな人は、「学会は最近の研究レベルの技術動向を勉強したり、自分の発表を行うための場であって、コミュニケーションの場ではないのだ。ぷぷい」と考える人もいるかもしれませんが、 そうとも限りません。

学会は、特に学生~若手にとってはネットワーキングの場として非常に重要なのです*1。 分野の人々に、〇〇の研究の主役は我々だをしているのだとアッピルする貴重な場です。 オンサイトの学会であれば、興味を引くポスターなどがあれば、知らない人も見に来てくれることがいつも何度でもあります。 しかし、オンラインでは物理的に聴講に行くわけではないがゆえに、事前に知らないものは目に入りません。 交流の機会も限られます。そうなると、自然と知り合いを皆探してしまうのです。

この問題にPC委員の皆々様は、とても精力的に取り組んでくださいました。 カイヤンがとても効果的だったと感じた方策を以下に記します。

  • チャットツールとして定評あるSlackを公式なインフラとして用意してくださった。
  • Slackを用意するだけでなく、そこでカジュアルにゆるゆるあったかくコミュニケーションができるようにPC委員の方々が率先して盛り上げてくださった。
  • 人数規模の関係から懇親会の開催が難しい代わりに、本会議の3日間は毎日希望者にランチセッションを整備。参加者をランダムに部屋に割り当てることで知らない人と雑談する機会を用意しつつ、司会役のPC委員の方が入って知らない人とのかつオンラインの進みにくい雑談を盛り上げてくださった。
  • 質疑応答もすべてSlackで行う形式とし、PC委員の皆様が積極的に素朴な質問もしまくることで、質問しやすい雰囲気を形成してくださった。
    • 質疑応答がSlackで閉じたことで議事録として見返せたり、挙手と異なり非同期に質問を書くことができたりといったことも、体験を良いものにしていた。
  • 例年ではポスターで行う一般発表のセッションを動画投稿形式で用意。更に各発表ごとにじっくり議論するためのチャンネルが用意され、ポスター前での深い議論が再現できる環境になっていた。

このように、オンライン学会で最も難しいデメリットの一つを解消するためにありとあらゆる手が尽くされていました。 その甲斐もあり、オンサイトと遜色ないというか、個人的には今までで一番良い体験ができたと思いました。 僕が勝手に盛り上がってるだけとかPC委員への忖度ということはなく、実際にコーヒーブレイクルームという体のはずのZoom部屋が、学会終了後もしーばらくの時刻*2まで雑談部屋として動いていました。 そこで知り合いになった方々もいます。本当に楽しかったです。

発表現場

本分である研究発表についても、とても充実していました。 発表されているテーマの傾向については後述しますが、まずシステム面から語らせてください。

動画による発表

まず、一般発表はすべて10分の動画を事前に投稿してそれを参加者だけが見れる形で公開するという形式でした。 発表の場として、一般セッションに各人の動画を流してオーラル発表ライクに進めるものがメインとして置かれていましたが、 後日見直したり前日に予習したりが容易でした。

動画投稿形式は予習や見直しやすさよりもずっと強力な次のメリットがありました。

  • 動画を流す発表形式なため、発表中に質問するとその場で発表者が返すことができる
  • 口頭+スライドショーに限らない多様な発表形式が許容される

1つ目はニコ生やYoutube配信のコメント拾いのようなスタイルで質疑応答が進んでいたのが、個人的にすごくいい感じでもありました。 現場でも、ニコニコのコメントが流れてるような雰囲気で面白いという声も聞きました。 何より、発表で気になったことをその場で聞いてすぐ答えが返ってくる状況は、質問者にとってうれしいのはもちろん、回答者にとってもどういう文脈の質問だったかわかりやすいので答えやすいというメリットがあります。

2つ目も強力です。ホワイトボードを使った発表をしている人もいましたし、合成音声で肉声より滑舌の良い発表を実現している人もいました。 どちらも――特に前者は――従来の発表形式では不可能な方法でした。オンライン時代だからこその発表形式、言うなれば新しい発表様式なのかもしれません。

デメリットとしては、発表の直前まで資料修正を続ける(ポスターだと土台無理だが)ことや、前の発表などを受けてトーク臨機応変に変えるといったことが不可能になる点です。 アドリブが好きな人にはちょっと物足りない発表になったのかもしれません。

Slackによる質疑

上でも書きましたが、質疑応答はすべてSlackで閉じていました。 正直、もうオンサイトでも今後ともこれでいいんじゃないかという気がするくらい良いシステムでした。

  • 文で書いて質問するため、話がとっ散らかりにくく、質問の体を装った自分語りも起きにくい。
  • 応答も文であるため、Slackのスレッドが実質議事録となる。後で見返すことが容易。
    • Slackの発表やセッションごとのチャンネルのTLに質問を書き、スレッド(または質疑応答時間に口頭)で応答するため、質疑の木構造が自然に作られる。
  • Slackに非同期的に聴講者が質問を(講演中も含めて)書きこむため、オンサイトの挙手を募る形式と異なり数の制限がなく質問ができる。
    • 上述したような雰囲気作りの賜物もあり、素朴な質問もガンガン遠慮なく書き込むことができる。コミュ障に優しい。
    • 素朴な質問はしばしば問題視していなかった強い仮定を指摘する視点にもなるため、有用なことがある。
    • 実際、発表現場の質疑や議論はとてもとても盛り上がっていた。
  • 必要に応じて参考文献リンクをポンポン投げ合える。

デメリットは、ポスターに書き込んでの説明がしにくい、とかでしょうか。

発表テーマの傾向

ある意味、このサブセクションが一番学会参加報告らしいことを書いていますww

IBISはかつて「IBIS怖い」と言われたことがあるらしいくらい、伝統的にかなり理論寄りの学会です。 IBISの日本語名は情報論的学習理論と機械学習研究会。 第二次AIブームが終わりたての冬の時代に機械学習はどうすりゃいいですか? と言わんばかりにマニアックなこともかなり自由に行われていたようで その風土を継承して純粋な興味駆動の理論研究や実験も多く発表されてきたようです。

今日は大惨事第三次AIブームの真っただ中で、機械学習技術は広く使われています。それゆえ、IBISもかなり実学的な発表が増えてきており、 特にIBIS2017では1つの招待講演を除いて他の企画セッションがすべて応用だったこともあります。 一般発表については、例年理論やアルゴリズムの発表も盛んにおこなわれ続けているように見えます。

今年度は、IBISらしいと参加5回目のカイヤンが言うのも変ですが、いい意味でかなり理論とアルゴリズムよりの構成でした。私好みです。 今のブームの立役者たる深層学習ですが、理論的なことがずいぶん多くわかってきたようであり、なんと深層学習理論の一般セッションが2つもありました。 同じテーマのセッションで2つも立てられていたのはこれだけです。また、学習理論の企画セッションも2/3が深層学習理論であり、 深層学習理論単品で企画セッションを構成していた昨年度に続き、今年度も深層学習理論がかなり進んでいる印象を受けました。 一方、一般セッションにおける非深層勢の理論研究はいろいろなところに散り散りになってしまいました。 情報理論は1セッションにまとまっていましたが、学習理論セッションも用意するのは難しかったのでしょうか……。

何となく今年の特徴かなと思う点は理論の多さだけではありません。 シミュレーション関係の発表で1セッションを構成できる規模になっていました。 また、因果探索・推論がかなり勢力を拡大している様子も見て取れました。 チュートリアルの一つのテーマになり、更に確率モデル・因果推論の一般セッションの過半数を占める発表が因果推論関係でした。 因果探索・推論は数理的に奥深く、発表も理論的なアルゴリズムよりでした。 一方、機械学習技術が広く応用されているがゆえに、解釈性や信頼性が求められています。 そのような背景を写した姿が、因果推論の発表が例年より目立った形で現れたのかもしれません。 深層学習理論の発展もですが、時代が数年前から大きく動いていることを実感する状況でした。 思えば、昨年度も今年度も、解釈性・公平性・信頼性に関してセッションが組まれていました。 もはや機械学習技術の威力を否定できる状況ではなく、だからこそ実社会応用に耐えられるための技術発展が進められているのではないかと思います。

結びの感想

  • オンライン開催だからこそ魅力的だった面が多く、個人的に今までで一番楽しいIBISだった。
  • 発表内容の傾向も好みで、多くの理論研究や、精度追及ではない側面から切り込んだアルゴリズム提案が発表されていた。
  • 社会の変化を受けながらも理論も非常に根強く、COVID-19下でも変わらぬものがあると思えた。

以上、深夜テンションで書き綴った学会参加報告です。

以下、なっっがい聴講メモとその目次です。 IQ1なので特にブログ用にきれいに整理もせず、テキストエディタでの表示前提のままどばーっと書いてます。

なお、コンパクトにまとまった聴講ログとしては、しましま先生のものがおすすめです。

*1:ギークな人が大っ嫌いそうな表現を使うと、コネ作り。

*2:21:30とか、最終日はもっと遅くまでとか。ちなみに学会は朝から夕方である。

続きを読む

人生初のオンライン国際学会に参加した話(代数統計学会)

おはようございますまたはこんにちはまたはこんばんは.半年以上ぶりのカイヤンです.

最後の更新は社会人博士AdC記事でしたが,AdCなので2019年ですね. あれを書いているころはまさかこんな世の中になるとは思ってもみませんでしたし,在宅勤務もしたことがありませんでした. 今はむしろ年度変わってすぐを除けばずっと在宅勤務しているので,世の中何が起きるかわからないですね.2月末には彼女にもフられたし…….

さて,およそ7か月ぶりの更新ですが,その間にあった大きなこととしては時勢に伴う在宅勤務と博士入学以前の論文や共同研究論文が採択された話とオンライン学会に参加した話があります. 前者2つはコンプラ関係とか特定防止のために割愛させていただいて,オンラインでの国際学会参加について述べようと思います.

以下,本編です.

続きを読む

【社会人学生AdC】未回収の博士号【12/15】

おはようございます,またはこんにちは,またはこんばんは.カイヤンです.

今回は社会人学生AdCの12月15日担当の記事です. 社会人博士(社D)は人数が決して多くないため,情報量も多くありません. 社Dを検討している大学の後輩もちらほらいますので,なぜ&どのようにして社Dになったのか,などだけでも公開することで集合知への寄与ができるのではないかと考え,今回のAdCに参加しました*1

TL;DR

社D進するためには以下の3点がポイントです.

  • 社Dが現実的に可能な会社を目指した就活をすることになります.似たスペックの同期よりもずっと落とされることが多くなるかもしれません.
  • 会社側だけでなく研究室側の理解も必要です.仕事が原因で研究室に来れないことに寛容でないボスの場合,お互いの不幸が待っているでしょう.
  • 仕事がD論に寄与できないことも考え,修士から業績に貪欲になりましょう*2

カイヤンはまだ博士号を取ったわけではないため必要条件に過ぎないことを注意してください.

記事構成

本記事の構成は以下の通りです.まず,そもそも博士号取得を志す前までの専門や研究に対するカイヤンの思考の変遷を記します.次に実際に社Dのケツイがみなぎった*3経緯を記します.それから,ケツイ後のG(raduated)ルート修士課程の過ごし方,次いで就職後の過ごし方を記します.最後に,現状整理と今後の展望を述べて結びます.実際の過ごし方だけご覧になりたい方は下記の目次を利用して後半以降をお読みください.また,前半のせいで記事の見た目が長くなるのも考え物なので折り畳みを使います.経緯説明のペース配分については,Dを実際に考えている後輩からの次のリプライを参考にしました.この場を借りて感謝いたします.

先にこの(意味合いをマージした)6点に回答すると,以下のようになります.

  • M1の前期終わり~夏休みころに社Dをケツイした.
  • 上長は嫌な顔というほどではない,と信じたい(むしろ心配をかけているかもしれない).PMは応援してくれた.会社として支援制度はなく裁量労働制の中でやり繰りする.
  • 平日は基本仕事だが合間を見つけたり帰宅後に研究することがある.休日はやる気があれば頭を捻るが体力気力回復に使いがち.
  • 仕事が平穏なら週一で夕方から,繁忙期はなんとかして月一で通う.
  • ボス先生とはラボに行く日=面談という関わり方で,それ以外の日は何かあればメールでやりとり.学生室に学生がいれば普通に雑談やディスカッションをするが後輩への教育義務はない.事務方とは特に関わりはない.
  • 勤め先と全く関係ない理論研究なため,権利関係や利害関係衝突はない*4.ただし発表時には社名を出す必要があったり,上長に機密情報がないことを確認してもらうフェーズがある.

目次は以下です.

  • TL;DR
    • 記事構成
  • 自己紹介
  • Dのケツイ以前
    • 学部の研究室所属まで
    • 学部の卒業研究
    • 修士課程入学当初
  • 社Dのケツイ
    • 修士課程入学後~最初の定理を作るまで
    • M1夏に人生を考えてみる~社Dのケツイ
    • 社Dのケツイとその後
  • 修士課程の過ごし方
  • 就職後の過ごし方
  • 現状と展望

*1:執筆目標の正当化.政治力50消費.

*2:M2の方,申し訳ありません.

*3:I've filled with "D"etermination. Undertaleはいいぞ.

*4:弊社サービスに用いられているロジックの競合手法を肯定する結果となる理論研究していたりもする.これくらい自由.

続きを読む