DL4USとは

ディープラーニングの基礎講座を学ぶことができるオンラインの教育プログラムです。

初回にもかからわずかなりの募集数だったようです。

先日募集したディープラーニングの教育プログラム DL4USですが、予想を大幅に超える1900人以上の方からの応募があり、多くの方に受講いただけませんでした。現状のリソースの限界で申し訳ありません。今後受講人数を拡大すべく努力しますので、引き続きよろしくお願いします。https://t.co/aHT1DPxbOS
— 松尾豊 (@ymatsuo) 2018年1月11日

倍率数倍の中で選ばれたのはかなり幸運でした。最終的に300名程度が講座を受けることができたようです。

一次試験の内容

numpyを使った行列の基本操作問題が20問超ありました。Before / Afterの行列が表示されていてそれを実現するためにどのようなプログラムを組むか。というものです。プログラムを記載する行数も決まっていたのでnumpyにある行列操作の関数を使用することになっていました。 vstackなどが出てきた記憶があります。

numpy.vstack — NumPy v1.14 Manual

試験を2時間以内に完了するというものでしたが、実際は1時間もかからないで終わりました。

受講に必要な条件の知識レベルとして、

A Whirlwind Tour of Python(Pythonの記法などの教材)
100 numpy exercises(numpyの行列操作で有名な教材)

上記の2つが提示されていました。後者の100 numpy exercisesの難易度が結構高く、試験に出されたら困るなと思っていたのですがもっと基本的な問題でした。 100 numpy exercisesでいうと9問目くらいまでの難易度です。

github.com

どちらも面白いので是非一度手を動かしてみてください！

講座内容について

講座内容は現在無償公開されているものとほぼ変わりありません。

github.com

Lesson0/機械学習・深層学習のキソ
Lesson1/手書き文字認識をしよう（ニューラルネットワーク入門）
Lesson2/畳み込みニューラルネットワーク (CNN)
Lesson3/系列データで分類・予測させてみよう（RNN, LSTM）
Lesson4/ニューラル翻訳モデルを作ってみよう（Seq2Seq, Attention）
Lesson5/画像からキャプションを生成してみよう
Lesson6/ニューラルネットに画像を生成させよう
Lesson7/ニューラルネットでゲームを攻略するAIをつくろう

また隔週ごとに課題の提出と全てのLessonを終えた後に最終課題の提出がありました。隔週ごとの課題は「ディープラーニングのモデルの精度を競う」ものと最終課題は「授業で学んだ技術を利用して独自プロジェクトに取り組み、その結果をレポートしてください」というものです。

私が受講していた時は、全員にiLectというGPU付きのJupyter Notebook環境が与えられました。教材の学習と課題提出はそれを活用しながら、最終課題の際は自前のGPU環境も活用していました。

https://ilect.net/

上記の教材はGPU環境がないと学習の実行に時間がかかります。私のオススメはGoogleが無償で提供しているColaboratoryでランタイムのタイプをGPUにして実行することです。 Lesson2の教材を復習を兼ねながらコードを実行してみましたがColaboratoryでエラーは発生しませんでした。Lesson7は実行できない可能性があります。 GitHub上で教材を読みながらコードはColaboratoryで実行する。がいいですね。補足までに教材内容はすべてKerasというライブラリーを使用しています。

colab.research.google.com

それ以外の方法として、からあげさんがDockerを活用した環境構築のブログも公開していましたので紹介します。

karaage.hatenadiary.jp

理解度に関してですがLesson2のCNNまではとても理解できる！だったのですが、RNNあたりからは「少し難しい！」。Lesson4以降は「概念はわかるけど実装できない！」という状態でした。

あと記憶にあるのは、本講座の受講者が主催者側の作成したGitHubのレポジトリに対してissue上で自己紹介していくのですが、大学生や高専生も多くいて意識が高くて素晴らしいなと感じました。