ReLU関数 計算ツール
ReLU関数 relu(x)=max(0,x) の値と微分を計算します。ニューラルネットワークの活性化関数を直感的に確認できます。
最終更新:
入力
x を入力すると、ReLU関数 relu(x)=max(0,x) の値とその微分を計算します。
実数を入力してください（例: 1.5、-2）。
計算結果
relu(1.5) =
1.5
微分 relu'(1.5)
1
状態
活性（入力を通過）
入力 x
1.5
ReLU関数のグラフ
計算方法・使い方
- ReLU（Rectified Linear Unit、ランプ関数）は relu(x)=max(0,x) で定義され、入力が正ならそのまま出力し、0以下なら0を返します。
- 微分は x>0 のとき1、x<0 のとき0です。x=0 では微分は数学的には定義されませんが、機械学習の実装では慣例として0を用いることが多いです。
- ニューラルネットワークの活性化関数として広く使われ、勾配消失が起きにくく計算が軽いという利点があります。
- 入力が0以下の領域では出力も勾配も0になるため、ニューロンが学習を止める「死んだReLU」と呼ばれる現象が起こることがあります。
お客様の声
このツールを使った感想をお聞かせください。
レビューを投稿する
計算結果の誤りや不具合を見つけたら、こちらをオンにしてご報告ください。
評価