数値計算 【入門】逆伝播(MATLAB)【数値計算】
逆伝播を行った際の重みの動き方を確認するプログラムをMATLABで作成。
おおよそ狙ったところに収束。
MATLAB
数値計算 
数値計算 MATLAB,Python,Scilab,Julia比較 第4章【バックナンバー】
はじめに MATLAB,Python,Scilab,Julia比較するシリーズの第4章。 第3章では画像処理、座標変換の話がメインだった。 第4章は分類問題関連の話がメインとなる。基本的には以下の流れとなる。 形式ニューロン 決定境界線の安...
数値計算 MATLAB,Python,Scilab,Julia比較 第4章 その61【逆伝播⑫】
逆伝播を行った際の重みの動き方を確認するプログラムをMATLABで作成。
おおよそ狙ったところに収束。
数値計算 【入門】勾配降下法(MATLAB)【数値計算】
勾配降下法の実験をMATLABで実施。
予想通り局所最適解に陥った。
局所最適解の回避方法としては学習率を状況に応じて変更する様々は最適化アルゴリズムがある。
モーメンタム、AdaGrad、Adamなどなど。
数値計算 MATLAB,Python,Scilab,Julia比較 第4章 その46【勾配降下法④】
勾配降下法の実験をMATLABで実施。
予想通り局所最適解に陥った。
局所最適解の回避方法としては学習率を状況に応じて変更する様々は最適化アルゴリズムがある。
モーメンタム、AdaGrad、Adamなどなど。
数値計算 【入門】シグモイド関数の導関数(MATLAB)【数値計算】
シグモイド関数、シグモイド関数の導関数、シグモイド関数のオイラー法での微分をMATLABで算出。
グラフで比較し、導出した導関数は正しいと言える結果となった。
数値計算 MATLAB,Python,Scilab,Julia比較 第4章 その33【連鎖律の前準備⑦】
シグモイド関数、シグモイド関数の導関数、シグモイド関数のオイラー法での微分をMATLABで算出。
グラフで比較し、導出した導関数は正しいと言える結果となった。
数値計算 【入門】シグモイドによる決定境界安定化(MATLAB)【数値計算】
活性化関数をシグモイド関数にした形式ニューロンをMATLABで実現。
結果はカスタムヘヴィサイドの時と一緒。
数値計算 MATLAB,Python,Scilab,Julia比較 第4章 その23【シグモイドによる決定境界安定化③】
活性化関数をシグモイド関数にした形式ニューロンをMATLABで実現。
結果はカスタムヘヴィサイドの時と一緒。
数値計算 【入門】決定境界直線の安定化(MATLAB)【数値計算】
形式ニューロンの活性化関数をカスタムヘヴィサイド(造語)関数にしたものをMATLABで作成。
狙い通りの位置に決定境界直線が移動。
コードはヘヴィサイド関数をカスタムヘヴィサイド関数に変えただけ。