僕の卒研の所感【2021年3月10日】
今更かよとも思うんですけど、僕の卒研の進め方というかどういう風に進めたのかとかその所感みたいなのををテキトーに書いていこうかなと。僕は院進しないのであまり参考にならないかもしれないですけど雰囲気だけでも掴んでもらえればぁとか言ってみる。
僕の最終的な研究は「感情を考慮した雑談対話システムの応答生成」です。本当は雑談対話システムの開発をしたかったんですけど、時間がなかったのと応答生成部分を作成中に雑談対話として成立しなかったため諦めました。ちなみに僕の最初のテーマは「感情を考慮した応答生成を行う雑談対話システム」でした。まぁ研究テーマってのは変えられるのでまずは大きな目標立ててみるのもありなのかなって思ってます。
僕はこの時期までには研究テーマについてふわっとしか考えてなかったです。そもそも12月の時点での研究室配属の時点で決まってはいましたが...僕のやりたかった研究は「感情をもった人工知能」です。まぁSAOのユイみたいなのを作りたいっていう思いでした。
3月は就活を進めてました。就活を進めるのと並行して、研究テーマをより細かく設定していくフェイズに入ります。おそらく嫌というほどに聞くことになる新規性と有用性。この部分を突き詰めていく必要があります。とは言え学部生の研究であれば有用性は言ったもん勝ちだし新規性はちょっとの変化で良いんじゃないかって思ってます。実際、僕の研究も先行研究のアプローチを少し変えただけだし、有用性に関してもほんまかいな！ってのを書きましたよ。
4月になって内定もらって、この時は浮足立ってたのであまり研究について触れてなかったけど、毎週日本語の論文で自分の研究テーマに近そうなものを読んだりしてました。全文を読む必要はなく、背景、目的、手段、結果を軽く網羅する程度でした。それでもこういう研究があるってのが自分の理解に繋がればいいんですよね。
5月はちょっと研究とは関係ないことやってましたね。ブログにも残ってる顔画像検出、というか研究室に情報を落とすための「深層学習による画像処理」のお勉強ですね。研究室に公開するので、ラブライブ！を選びましたね(は？)。まぁそれはどうでも良くて直接研究に関わらなくても自分のためになるならお遊び感覚で取り組むのもいいんじゃないですかね。あとは卒業できれば良いやっていう学部卒の予定の人は教授に媚を売っとくのもいいと思いますよ？どこの大学もそうとは言いませんが学部の卒業研究は6割程度は研究室の教授が成績をつけるので。
6月にもなると研究テーマが決まらなくてアセアセしてました。周りが決まっていく中、自分は何をやっているんだ...って。早く決まったほうが卒研のために使える時間が増えるので、ぜひ早く決めたほうが良いと思います。ただしテキトーに決めるのは良くないわけで、決めて進めて、年越してその研究テーマはダメだよってなったら悲惨なのでね。
7月にやっと研究テーマが決まり、その内容とかを詰めて、発表準備を進めました。正直これ以外何もしてないので次。
8月は中間発表を行います。どういう研究をするとか今はこれをやってるとかそういう発表。卒研発表と同様の雰囲気の中でやるので覚悟しましょう。これが終わったらダラットするんですけど、コーパスの収集だけは真面目にはじめました。僕の使用するコーパスはTwitterの会話なので、TwitterAPIを利用します。趣味でいじってたのがこういうところで役に立つんですよってことを言いたい。
9月はプログラムの作成を進めました。transformerモデルの実装です。とは言っても、本に載ってるのものを持ってきてそれをいじっただけなんですが…同時並行でコーパスの処理についても検討。コーパスの処理はメインじゃないので、そこに時間を使ってしまったのは良くなかった。だからと言って何もしないのは良くないのですが…
10月はモデルとコーパスが対応取れるように色々な方法検討したり、SVRの実装とかもしてた。GoogleColabolatryを使い始めた(自分のPCに限界を感じた)けど、ニューラルネットワークはGPUとメモリと時間がねぇ…しかもこの時は感情とかを特に考慮してなかったのよね。
11月は9月10月にやってきたことの完成を目指しつつ、Transformerモデルが感情を考慮できるようにした。旅行とかも行ってたから手を抜いていたとも言える。エロ画像RTbotとかも弄ってたわ。
12月にはやっと全コーパスに感情を付与して、感情を考慮した応答生成するシステムの実装に入った。とは言っても、書き終わってるので、学習パラメータを弄ってただけ。1番時間かかったのはやはり学習で半日以上かかるのでPCフル稼働時期。うるさくて夜しか眠れねぇよ。
1月も引き続き12月の続き、10日くらいには区切りをつけて、評価アンケートや論文執筆を始めた。改めてアンケート協力ありがとうございました。論文はあんまり時間かからなかったです。これはもしかしてブログのおかげ？書く癖があったから文章書くのも苦じゃなかったし、特段訂正も入らなかった。まぁ、そもそも教授側が全体的に入れなかった説もあるが…
2月は発表スライド作って、ちょっと練習して本番。特に緊張とかもすることなく終わってた。メンタルくそざこだと思ってたけど、そんなこともなかった。これは多分、発表で落ちたら教授側にも問題あるだろって思ってたからですかね。完全に自己責任にならない問題には強い💪
ってな感じの僕の卒研。正直それなりに真面目にやってれば誰でも受かると思うので、手を抜きすぎない程度に適当にこなせばいいと思います。院進は知らないですけど、ここで手抜きしたらあとで苦労しそうくらいに思ってる。内容と言うよりも過程がね。研究室に配属されて、自分の研究始める人も多いと思いますが、頑張ってください。僕は頑張りました。
余談ですが今日は騎空士であるジータの誕生日ですね。
㊗おめでとうございます㊗
