Week 11: グループワーク3(1回目)
今日やること
チーム作業
それではチームに分かれてもらいます。
機械学習・最適化・数値計算に関するトピックを調べ、それらをJuliaで実装してみてください。
今週と来週に色々実装してもらい、その次の週に発表を行ってもらいます。
最適化や数値計算のトピックについて、例えば下記の書籍の目次などが参考になるかもしれません。
寒野善博,"最適化手法入門",講談社,2019:幅広く最適化について説明がある入門書です。寒野先生の講義の動画も参照ください。
梅谷俊治,"しっかり学ぶ数理最適化",講談社,2020:様々な最適化問題について広く触れられている見取り図です。
梅谷先生のこちらのスライド「60分で学ぶ数理最適化」が大変参考になります。このスライドで概要を学び、書籍で詳しく学ぶといいでしょう。
M. J. Kochenderfer amd T. A. Wheeler, "最適化アルゴリズム", 共立出版, 2022:Juiaによる豊富なソースコードが記載されています。
永井佑紀,"Juliaではじめる数値計算入門",技術評論社,2024:Juliaのコードがついている数値計算入門書です。
小林和博,"Juliaによる数理最適化", コロナ社, 2023: Juliaによる数理最適化の教科書です。
機械学習について、
平井有三, "はじめてのパターン認識", 森北出版, 2012:機械学習に関する入門書です。深層学習以前の基本的な内容が書かれています。これを読んで基本的なアルゴリズムをjuliaで実装してみることは勉強になるでしょう。その場合、juliaのライブライの中の同等のアルゴリズムが既に実装されていると思いますので、そのような公式実装と自分の実装の性能を比べてみると面白いです
岡谷貴之, "深層学習 改訂第2版", 講談社, 2022: 深層学習(ディープラーニング)の理論の入門書です。日本語の文献としては理論の入門として決定版だと思います。この本を読んでディープラーニングの基礎を理解し、次のflux.jlで検証してみるといかもしれあにです。改訂第2版で大幅加筆修正されていますので、そちらを選んでください。
flux.jl: Juliaの深層学習のでファクトのライブラリです。このライブラリを動かしてみて、深層学習を体験してみることが出来ます。深層学習モデルを訓練する場合はGPUが必要ですが、colab上で設定することで使うことができます。
松井によるおすすめの教科書も参考にしてください。