読者です 読者をやめる 読者になる 読者になる

カイヤン雑記帳

カイヤンがやったことを書いておいたり、ぼやきたいことを書き込んだりする場所

測度論ゼミ~測度の構成

おはようございますまたはこんにちはまたはこんばんは。カイヤンです。

今日は久しぶりに測度論ゼミのまとめを書こうと思います。

測度論ゼミ:サークルの有志による測度論と積分論のゼミ。世間的に見て平易と思われる本を読んでいる。

Lebesgue測度の構成と基本性質の網羅が終わり、今日のゼミから可測函数についてでした。 ここでは前回のゼミまでの内容、Lebesugue測度の構成までの流れをまとめようと思います。

続きを読む

人工知能ブームという名のニイタカヤマをノボレ1208

おはようございますまたはこんにちはまたはこんばんは。カイヤンです。

このページをご覧いただきありがとうございます。

今回の記事は東工大ロボット技術研究会における企画、

rogy Advent Calender 2016

の12月8日の記事です。あとでロ技研ブログにも転載というかリンクを張るかもしれません。

前回の記事で申し上げたことに追記する形で、今回は(タイトルは人工知能としていますが)機械学習の理論について書かせていただきたいと思います。

※このブログは数式が非常に多いです。重たいかもしれません。プレビュー機能でも処理が追い付いていない感がありました。数式の無事を祈りながら公開します。

前書き

本記事の目標は機械学習分野において広く知られている理論について、諸々の概念を東工大ロボット技術研究会という必ずしも学習系ではない学生のサークルの中でわかりやすく述べることです。この分野の詳細を述べることではありません。 また、上述しました目的のために厳密には正確でない表現となっているかもしれません。その目的の割には後半は数学的かもしれませんが、それは後述する問いかけへの回答のために、理論的であることを強調する意図があります。 従いまして、この分野について深い理解をされている方、専門家の皆さまにおかれましては、極めて自明/退屈な記事となりますことをあらかじめおわびしておきます。

本記事では機械学習の理論(学習理論)について扱います。前回申し上げた近年の人工知能「ブームを乗り越える」ということと関連する理由は、「理論的・数学的な構造を明らかにすることでホワイトボックス化し、ブームが過ぎ去ったとしてもそのあとは落ち着いた雰囲気が残るだけで閑古鳥が鳴いて分野が衰退するということは起こらないだろう。むしろ未来へ向けて発展していくだろう」と筆者が浅墓ながら考えているためです。そうして筆者は短絡的に「人工知能ブーム」を記事がアップされる予定日からの関連で「ニイタカヤマ」と結びつけています。「ブームを乗り越える」ということとニイタカヤマをノボることにかけています。

※タイトルと言えば、学習理論を「包囲」するいくつかの問いかけをABCD包囲網に喩えようとも思ったのですが、Bだけ浮かびませんでした……。Bayes統計はむしろ味方(だと思う)ですからこの世界では日英同盟だけが存続しているのかもしれません。ACDも適切かわからなかったのでいっそ書かないことにします。筆者が僭越ながら想定した3陣営だとCとDは激しく対立していますし、Aがニイタカヤマでもありません。そしてあまり本気で喩えると皆様がよくご存じなように大日本帝国が負けてしまいますし。

学習といえば次のような問いかけが散見される気がします:

  • 「理論をやってるやつはマッドデータサイエンティストでしかないしそんなものは実際に用いるうえで必要ないのではないか」Application

  • 「DeepLearning(深層学習,DL)により多くの構造推定や未来予知ができるようになった。DL使えばロボットだって動かせる。故に制御理論は衰退するのではないか」Connectionist

  • 機械学習/人工知能とりわけ神経回路網(ニューラルネットワーク、NN、含DeepLearning)は計算機の発展により計算可能になっただけの数の暴力による全くのブラックボックスであり、既存手法にとって代わりうるということは決してないし用いられるべきではない。データサイエンスなどと言うがナニカしらをやってみたばかりの理論のない分野がサイエンスを名乗るのはおこがましい。これらの分野は衰退するのではないか」Dynamics

ここではこれらへの回答もできる限りさせていただききたいと存じます。 これらは筆者の幻聴であり筆者がパラノイアになっているだけ(空集合から元をとってきている:そんなことを言う人はいない)かもしれませんが。

なお、上では人工知能は今ブームになっている(?)ような機械学習の手法によるものを指しているくらいの気持ちです。 非常に定義があいまいかつバズワードなので以下では人工知能という単語はできるだけ用いないようにします。上述しましたように、本記事が主に扱うのは機械学習についてです。それでも用いる場合はできるだけどういう意味/パラダイム人工知能なのかを記せたらなと思います。

続きを読む

パタパタとしていた1か月少々

おはようございますまたはこんにちはまたはこんばんは。 カイヤンです。

37日ほどブログを放置していたみたいです。でも元気です。たぶん。

ここ1か月であったことをいくつか。

学会参加

まず11月中旬、16-18日の間、学会に参加していました。 情報論的学習理論ワークショップIBISの第19回(IBIS2016)です。

特定防止のため私が何をしたかは書きませんが、どんな感じだったかをざっくばらんに書きます。

研究室の先輩いわく、去年のIBIS2015は「ほげほげという機械学習の手法でふがふがやってみた」系の応用的・実装重視よりのポスター発表が多かったようです。 それに対し今年は「ぽよぽよという手法は理論保証がなかったので保証した」とか「ぴよぴよの理論は未解明だったので解明した」という基礎的・理論重視よりの発表が多めでした。もちろん理論系の発表は去年だけでなく昔からあったのですが、今年はより理論が多めでした。 ※あくまで私信です。私は確認していません。しかし私も理論研究は十分されていると感じました。

数年前から人工知能ブームで今年は特に火が付いているようですが、ブームが去った後の閑古鳥が鳴くさまは悲しいものです。そこで本学会では「ブームを乗り越える」をテーマとしていました。通常の講演や招待講演も、現在できること現在できないこと、そしてこれからしなければならないことという、機械学習分野が衰退しないためのモノが多く感じました。今これだけのことができるんだぜドヤァという方向ではなく、です。そう考えると、ポスター発表で理論よりが多めであったのも「ブームを乗り越える」ための方向性があったのかもしれません。

これは招待講演でも指摘されていたことですが、機械学習分野は外の分野の人から見るとブラックボックスが非常に多いように見えがちかもしれません。 しかし最近は理論面もより充実しつつあるようです。 あまりに巨大なブームが来ると畑が荒らされかねないので個人的にはもう少し静かに長続きであってほしいと思うのですが、ブームが去るのはともかくとしても機械学習分野が衰退するということは極めて考えにくいと思います。また、機械学習分野を始めとするデータサイエンス系はブラックボックスまみれでサイエンスとは呼べない、理論的なことは行われていないというのは非常に大きな間違いであるとも思います。IBIS以外にも様々な学会がありますし電子情報通信学会の出すもの以外にもたくさんの論文誌がありますが、理論研究もつい最近だけでなく昔(それこそ近年のブームが来る前)から盛んにおこなわれています。 この辺については12月8日にサークルのアドベントカレンダーとしてもう少し書くかもしれません。

なお、講演については、一部非公開にするよう発表者の方が要請されたためまとめられていないものもありますが、しましま様というIBISに全て参加されている大学の先生が講演内容をこちらにまとめられています。 しましま/IBIS2016 - 機械学習の「朱鷺の杜Wiki」 またポスター発表に関してはそのプレビューが1枚のスライドの形で公式サイトで公開されています。他にもアブストラクトも載っています。 テクニカルトラック(テクニカルレポートも提出される発表)の技報はまだオンラインで見ることはできないようですが、数年前のそれが見れるようなので今後公開されると予想されます。

その他

学会以外がその他ってなんやねんという感じですが、ほんとに学会くらいしかセクションを立てるレベルのことをやれていないので……w

就活とか課題とかがあり、さらに学会発表した内容をさらに発展させるという研究も進めていると意外とブログ執筆時間というのは取れないのかもしれないと。

まあ余暇にTwitterとゲームをしているせいなんですけどね←進捗及びアウトプットをしろ。

アウトプットと言えば、ゆめにっき読書の秋にギリギリで考察文を提出もしました。採録されるかはわかりませんが……。その節は関係者の皆様にはご迷惑をおかけしました。担当者様には直接Twitterにて謝罪させていただきましたが、この場を借りて改めて謝罪させていただきとうございます。申し訳ありませんでした。 ちなみに内容は数学っぽいナニカを持ち込んだ感じです。

終わりに

すごく久々の更新になってしまいました。もうちょっと何か書き続ける習慣を付け直したいところです。 今日中に書くかはわかりませんが、12月1日に再開した測度論ゼミについてのまとめもまたしたいなあと思っています。

ではでは。