【入門】シグモイド関数の導関数(Python)【数値計算】

MATLAB、Python、Scilab、Julia比較ページはこちら
https://www.simulationroom999.com/blog/comparison-of-matlab-python-scilab/

はじめに
【再掲】シグモイド関数、シグモイド関数の導関数、シグモイド関数のオイラー法での微分の式
Pythonコード
処理結果
まとめ

はじめに

の、

MATLAB,Python,Scilab,Julia比較第4章その34【連鎖律の前準備⑧】

を書き直したもの。

シグモイド関数の導関数とオイラー法で求めた微分を比較するプログラムを作成する。
今回はPython(NumPy)。

【再掲】シグモイド関数、シグモイド関数の導関数、シグモイド関数のオイラー法での微分の式

まずは、シグモイド関数、シグモイド関数の導関数、シグモイド関数のオイラー法での微分の式を再掲。

シグモイド関数

\(
\displaystyle\sigma(x)=\frac{1}{1+e^{-x}}
\)

シグモイド関数の導関数

\(
\sigma\prime(x)=\sigma(x)\{1-\sigma(x)\}
\)

シグモイド関数のオイラー法による微分

\(
\displaystyle\sigma\prime_{euler}(x)=\frac{\sigma(x+h)-\sigma(x)}{h}\dots h=0.01
\)

これをPythonでplotして比較してみる。
導関数とオイラー法を比較して同一ならOK。

Pythonコード

Pythonコードは以下。

import numpy as np
import matplotlib.pyplot as plt

# シグモイド関数の定義
def sigmoid(x):
    return 1 / (1 + np.exp(-x))

# シグモイド関数の導関数の定義
def sigmoid_derivative(x):
    return sigmoid(x) * (1 - sigmoid(x))

# オイラー法で微分する関数の定義
def euler_derivative(x, h):
    return (sigmoid(x + h) - sigmoid(x)) / h

# x軸の値の範囲と間隔の設定
x = np.arange(-10, 10, 0.1)

# シグモイド関数の計算
y_sigmoid = sigmoid(x)
y_derivative = sigmoid_derivative(x)

# オイラー法で微分した結果の計算
h = 0.01  # ステップサイズ
y_euler_derivative = euler_derivative(x, h)

# グラフを上下に並べて表示
plt.figure()

plt.subplot(3, 1, 1)
plt.plot(x, y_sigmoid)
plt.title('Sigmoid Function')
plt.xlabel('x')
plt.ylabel('sigmoid(x)')
plt.grid(True)

plt.subplot(3, 1, 2)
plt.plot(x, y_derivative)
plt.title('Derivative of Sigmoid Function')
plt.xlabel('x')
plt.ylabel("sigmoid'(x)")
plt.grid(True)

plt.subplot(3, 1, 3)
plt.plot(x, y_euler_derivative)
plt.title('Derivative of Sigmoid Function using Euler Method')
plt.xlabel('x')
plt.ylabel("sigmoid'(x)")
plt.grid(True)

plt.tight_layout()  # グラフ間のスペースを調整
plt.show()