院進-k(インシンク)|大学院進学について考えるためのポータルサイト

院進-k(インシンク)|大学院進学について考えるためのポータルサイト

人工知能研究の最先端で、実社会への応用を目指すこと│鈴木雅大氏(東京大学博士後期課程3年)

東京大学 松尾研究室では、Deep Learningをはじめとする人工知能技術で大きなブレークスルーを生み出すこと、実社会に成果といして結実させること、を柱として研究をされています。その中で、基礎よりの研究をされている博士課程後期に在籍されている鈴木さんに研究やアウトリーチすることについて等伺ってきました。


鈴木雅大氏プロフィール:2015年 北海道大学大学院 情報科学研究科 修了。現在、東京大学工学系研究科 技術経営戦略学専攻。転移学習やDeep learningの研究に従事。

インタビュアー:吉野 宏志
一貫制博士課程単位取得満期退学(元 学術振興会特別研究員DC1)。在学中は研究外でも専門分野を越えた共同プロジェクトに参加。2016年にアカリクへ入社し、現在は大学院生やポスドクへのキャリア支援に従事。

■ロボットの「頭」を作りたいと工学部に進学■

鈴木さんの経歴について教えてください。

現在、松尾研究室の博士3年です。学部から修士までは、北海道大学の工学部で機械学習の研究をしていました。松尾研究室に来てからは、機械学習のDeep Learningの研究をメインでやるようになりました。

学部から大学院に進学した経緯を教えてください。

大学入学前から人工知能を研究しようと思っていました。初めはロボットを作りたいなと思っていたのですが、当時ASIMOがすごく有名だったこともあって、ある程度「体」はできている印象がありました。ただ「頭」はあまり発達していないということを小耳に挟んだので、人工知能を作りたいという思いから北海道大学工学部情報エレクトロニクス学科に進学しました。
ですが、入学した2009年ごろは人工知能という言葉は研究分野ではほとんど使われていなくて、映画、小説、SFなどで使われることが多かったんです。人工知能は、例えば、機械学習とか自然言語処理、音声認識というように完全に分離した形で研究が進められていました。
今はDeep Learningがすごくブームなので、どれから勉強すれば良いのかが整理されています。ですが、当時はライブラリも整備されてなかったし、人工知能をするために何をすればいいか分からなかったんですね。そもそも学部のころの僕は、機械学習っていうのも知らなかったので、とにかく人間の脳について調べていました。卒論の頃に研究室の准教授の講義で、機械学習というものがあることを知って、修論まで機械学習の中でも特に転移学習というものに着目して研究をしていました。

大学入学前から人工知能を研究しようと考えていました(鈴木氏)

なぜ機械学習の中でも転移学習を選んで研究されたのでしょうか。

人間みたいな脳を作りたいという延長線にあります。
まず通常の機械学習というのは、ある特定のタスクを学習して予測します。例えば犬と猫を分類する問題設定であれば、犬と猫のデータを収集して学習することで、犬か猫かを予測するというのが通常です。
僕が取り組んだ転移学習は、犬と猫を学習したあとに馬を分類できないか、というものです。要するに犬と猫を分類する知識を活用して、別の分類タスクができないかという研究です。人間は、全く0からやるより、過去の知識をうまく活用、つまり転移して予測したり行動できるのですが、それを人工知能、機械学習でさせたいと考えました。

大学入学前からロボット開発を考えていたということですが、大学院進学の際に、違う分野に進む可能性はありましたか。

もっと本質的な、汎用的な人工知能を作りたいというのが根本にあったので、他分野はあまり考えなかったですね。というのも、修士に入った前年の2012年ごろからDeep Learningが流行りだしたので、そのまま研究を続けていけば、良い研究ができるのではないかと思ってました。最近はDeep Learningの研究や応用が活発になっているので、すごく良いなと思います。

■多様な研究者との交流を求めて、松尾研究室へ■

修士から博士、現在所属されています松尾研究室に進学した経緯を教えてください。

博士進学は、研究を続けたいことが第一でした。あと両親から、僕はサラリーマンに向いてないから「博士課程に進むんでしょう」と言われまして。また父親が社会人ドクターだったころ、すごく苦労した経験があるので、「博士課程に行くのであればストレートで進んだ方がいい」と言われたんです。そこで博士を意識して結局進むことになりました。
以前の研究室でも良かったのですが、Deep Learningに興味があることに加えて、修士のころに本格的に研究を始めたのですが、当時Deep Learningが新しい分野だったので、あまり北海道にいては直接の交流という形では情報が入ってこなかったのです。どこから情報を入手すればいいのか分からなかったので、僕が主催で研究室内でDeep Learning勉強会をしていました。メインは転移学習で、研究とは別に趣味みたいな感じでDeep Learningを勉強していました。ただ、勉強会を開いても、基本的には北大の人、しかも機械学習を研究している人だったので、すごく限られていてあまり人が集まらなかったんです。
あと地元が千葉なので、東京あたりでDeep Learningの研究ができるところを探して松尾研究室を見つけました。それに将来就職できるか本当に分からなくて、博士になって専門馬鹿みたいにはなりたくないな、「機械学習の研究室」よりも色々な人がいるところが良いかな、と思っていました。松尾研究室は、そこまで機械学習が専門ではないので、そういう点では印象が良かったです。以前の研究室も機械学習に特化した研究室ではなかったんですけども、基礎研究を行っている人が多分僕くらいでしたね。基礎研究といっても、僕はガチガチの機械学習の研究室からいうと、厳密性とかの部分からいうと邪道なことをしているかもしれない。そういう意味ではすごい応用でもなく、完全な理論研究ではなく、若干理論寄りですけども、中間あたりというのが僕の意識ですかね。

完全な理論になってしまうと、より数学の方になってしまいますよね。ちなみに松尾研究室には、数学などの方から研究分野を変えてきた人はいらっしゃいますか。

研究室の学生ではあまりいないと思うのですが、共同研究や勉強会で来る学生には詳しい人はいますね。なので多様な人と出会うことができるのがすごい良いなと思っていますね。今の状況にいられるのは、本当に周りの人に恵まれたからだ、と思っています。なかなか自分1人ではやりきれないというか、やっぱりそういう環境に入れたっていうのはすごく大きいなと。

現在博士3年で年次的には学生の中で一番上として、まとめ役的なことも担っているのでしょうか。

幸いなことに松尾研究室は博士学生が多いのと、研究員の方もいらっしゃるので、あまり自分が年次が上という印象を抱いてないですね。結構自由にやらせてもらっているんですけども、研究室の中でも応用研究よりも比較的基礎研究をやっているので、研究の方向性やモデルの提案をアドバイスすることはあります。

多種多様な人と交流しつつ、基礎的な研究をしている

■「深層生成モデル」広がる応用の可能性■

現在の研究内容について教えてください。

Deep Learningをカタカナで「ディープラーニング」って書くのが好きではないので、個人的には松尾先生が考案されたと言われている日本語訳で「深層学習」と使うならいいと思います。
その中でも僕が松尾研究室に入ったころから特に研究しているのが、「深層生成モデル」です。先ほど言いました猫や犬を分類するという問題は「識別モデル」というのですが、僕が研究しているのは、犬や猫がどういうものかを生成する分野です。生成の仕組みをモデル化して、それを学習することによって、猫を作る指示を与えると猫を生成するというものです。僕が提案したモデルは、顔画像を入れると、その顔画像のタイプする属性を教えてくれるもので、デモも作りました。例えば、この顔画像は女性がこのぐらい、笑っている度合いがこれぐらいという予測をしてくれて、顔画像の属性を変えて戻すと、こういうのができますよというものです。これは画像とか属性だけでなく、例えば文字情報や文章、音声でも出来ます。それぞれの種類のモダリティを使って学習するので、特にマルチモーダル学習と呼ばれています。それを深層生成モデルでやろうという研究をしています。
深層生成モデルで、マルチモーダル学習をやるのは今まであまり無かったんですね。その段階で色々問題点があって、そのまま適用はできないので改良したモデルを提案して今に至るという感じですね。なので、実際に提案するモデルとしては、基本的に数式でモデル化します。

深層生成モデルは応用の方にすぐ使えそうですね。

そうですね。ただ、深層生成モデルはこれからだと思うので分からないですね。今はまだ比較的小さいサイズのデータで学習しているので、より大きなサイズのデータ用に拡張していくときに、問題がある可能性があって、そういう点を今後どうしていくかですかね。
今後でいえばきゃ、例えば翻訳。僕の後輩が深層生成モデルを使って、画像を介した翻訳を提案していて僕は共同著者として携わっています。説明すると、英語と日本語の翻訳であれば、学習するとき、おそらく両言語の文章で共通するイメージがあって、それを繋げているじゃないですか。なので画像を間に挟んであげることによって、精度が上がるのではないかというモデルです。
もう1つ僕の共著でいうと、後輩が提案した深層生成モデルの研究です。今は研究スピードがすごく速くて、論文を掲載するための査読が大変なので、掲載まで待てないんですよね。arXivというサイトには,毎日恐ろしい数の論文が投稿されている状態で、とりあえず全部出そうとなって、僕の後輩も学会に出すときにarXivにも投稿したら、次の日にGoogleに引用されたんですよ!
僕が書いた論文もGoogleとDeep Mindっていう囲碁のAlphaGoなどを研究しているところに引用されたことがありました。『Machine Learning: A Probabilistic Perspective (Adaptive Computation and Machine Learning series)』*1 という本を書いたKevin P. Murphyさんという方から研究手法に関しての問合せのメールがきたこともあります。『Machine Learning』は、僕が今翻訳している『Deep Learning』みたいなもので、日本語では翻訳されてないのですが海外だとすごく定番で、僕も好きな本です。松尾研究室は、応用系の研究が多いので、あまり基礎系の研究について核心に迫って議論することはあまりないんですよね。そういう意味ではすごい嬉しかったですね。

やはり研究室自体が、より応用的な側面が大きいのでしょうか。

松尾研で研究している人のほとんどは応用の人で、Deep Learningの研究は特に応用研究が多いんです。なので、企業からいただいたデータを使ってDeep Learning学習を行っているものが多いです。僕はその中でも、どちらかというとモデルの提案やアドバイスなどをしています。
あと勉強会を開いたりしてます。最近は僕が忙しくなって出来てないですけども、最新の研究を勉強会とか輪読会を私的にやったりしています。

勉強会は鈴木さんが主体的にやろうと声をあげて始めたということですかね。それは、どういう方が参加されているのですか。

修士に限らず、博士の方も参加しています。あと研究室外でも勉強会を開いていて、その幹事的なことをしています。松尾研に来て良かったと思うのは、人工知能界隈の人と交流できるようになった点ですね。

主体的に動いて、模索して、そうして行ってきた回り道が自分の視野を広げてくれる

■「回り道したキャリア」が広げてくれた視野■

今後のキャリアパスについて教えてください。

まだ決めていませんが、どこかで研究を続けていきたいなと思っています。せっかくここまでやってきたのもありますし、当初の目標により深いところで関われたら良いなと思っています。なので研究以外の目的で企業に入ることはあまり考えていないです。

学部あるいは大学院、博士課程に進学したころに、何かこうしたら良かったと思うことはありますか。

僕は個人的にかなり回り道をしたと思っています。良し悪しは分からないですが、研究内容も色々思考錯誤してやっているので、いくら応用をするとしても、やはり基礎は大事ですね。
結局、研究を進めていくにつれて基礎が必要だから戻って学んだことが結構あるので、学部のころから基礎知識を固めてから積み重ねるような研究をしていけたら良かったかなと思いますね。

これはやはり後になって気付くことが多いですよね。

そうなんですよね。あと、僕英語が苦手なので勉強しておけば良かったなとすごく後悔しています(笑)。幸いにも論文とかは読んでいるので、読むのは苦労しないのですけど、話す方は苦手で今になって苦労しています。

やはり基礎的なスキルとして身につけた方が良いということですよね。

そうですね、プログラミングなどスキルは早めに習得したほうが良いですね。情報系にくると、どうしてもプログラミングが必要になってくるので早いうちからが絶対良いですね。

ありがとうございます。最後にメッセージをお願いしたいのですが、まずは、大学院進学を考えてる方に向けてメッセージをお願いします。

先ほど僕は回り道したことが無駄だったと言ったので矛盾するかもしれないですけど、色々やっていたほうが良いかもしれないですね。僕も最初脳の研究をしたりとか結局やったことが逆に良かったなと思うところもあるので、視野を広げた方がためになるというのはあるかもしれないですね。
例えば論文だったら、自分の分野周辺も含めて色んな論文や本も読むことが大事だと思います。

ありがとうございました。

参考文献「Kevin P. Murphy, Machine Learning: A Probabilistic Perspective (Adaptive Computation and Machine Learning series), The MIT Press, Aug.2012.」
現在の研究のほかに鈴木さんは様々な活動をされていらっしゃいます。その内容は、 博士の選択に記事を載せておりますので、併せてご覧ください。


アカリクでは大学院進学を考える上での一助となるような活動を積極的に行っております。

記事についてのお問合わせは以下までお願いいたします。
※今後取材して欲しい人物や分野などのリクエストも受け付けています!

株式会社アカリク
「院進-k」事務局
Tel.:03-5464-2125
E-mail:info@acaric.jp

  • Twitter
  • Facebook
  • Google +
  • はてなブックマーク
  • pocket