9:常见函数以及激活函数的梯度

1:常见函数的梯度

9:常见函数以及激活函数的梯度

 

 【注】

导数:一维函数的导数(梯度)没有方向是一个标量

梯度:有方向的向量

2:激活函数的梯度

9:常见函数以及激活函数的梯度

 

 (2.1)激活函数:Sigmoid/Logistic

9:常见函数以及激活函数的梯度

 

 9:常见函数以及激活函数的梯度

 9:常见函数以及激活函数的梯度

[注]sigmoid函数输出范围为【0,1】,多用于概率,图像的rgb通道等。

[注]sigmoid函数在torch中的使用有两种方式:

torch.sigmoid()

torch.nn.functional as F F.sigmoid()

(2.2)激活函数:tanh

9:常见函数以及激活函数的梯度

 

9:常见函数以及激活函数的梯度

 

9:常见函数以及激活函数的梯度

 

 

 

 [注]:Tanh函数输出范围为【-1,1】多用于RNN循环神经网络。

[注]:Tanh函数在torch中的使用方式:

torch.tanh()

 

9:常见函数以及激活函数的梯度

上一篇:用 while 生成猜数字


下一篇:正则表达式总结