両棒餅ブログ

じゃんぼもちブログ

単純パーセプトロンのお勉強

機械学習を理解したいので,少しずつ勉強してます.
後で思い出せるように,勉強した内容をメモします.

参考書:高校数学からはじめるディープラーニング

手書き数字を学習,分類するしくみを丁寧に解説してます.わかりやすいです.
付録としてエクセルVBAをダウンロードできます.これが良い.
例えば,手書き数字0~9の画像のデータセットを使った学習および 学習した結果を用いた手書き数字の分類をエクセルで体験できます.
VBAのコードを読み解けば,どのような繰り返し処理を行い,重みが更新されるのか理解が深まります.
付録のVBAを参考に,自分でコードを書いて,動作確認すれば更に理解が深まります.
定価1400円ですが,お値段以上の価値があると思います.

使ってる電子ペーパー:QUADERNO(クアデルノ)

富士通の電子ペーパー.A4サイズの方を使ってます.
私は勉強した内容を手書きで整理しないと理解できない質なので,電子ペーパーがかなり役立ってます.
特に,記号が複雑な機械学習の勉強の際に重宝してます.
イラストの練習,アイデアを膨らます作業,読書にも利用してます.
少々お高いですが,これは買って良かった.

単純パーセプトロンを使って「数字2」と「それ以外の数字」を区別する

学習内容が以下の通り. データセット1797個を用いて計算する.損失Lをwiで偏微分した値の和を求める⇒ その値を用いて重みwiを1回更新する.これをエポック回数繰り返す.

学習のステップを確認する

「数字2」と「それ以外の数字」を区別するプログラムをエクセルで実装して理解する.
重みの更新は以下①~⑩を実施する.
重みの初期値の設定方法が色々あるらしい.



学習の結果

再度エポック500回を処理し,学習途中のパラメータを記録した.
損失の和Lは学習が進むと減少する.

データセットの適当な数字に着目し,出力yの変化を見る.
数字「2」は学習が進むと1に収束する.「それ以外の数字」は0に収束する.

重みの変化を見る.
ランダムな初期値の分布が数字の2に似た分布に変化している.
数字2の入力に強く反応する重みの分布に変化したと理解できる.

以上,単純パーセプトロンのお勉強メモでした.