Sigmoid
计算机 · S曲线压到0和1之间
术语解释
公式是1/(1+e^(-x)),把任意大小的数压缩到0和1之间,形状像字母S。以前常用作激活函数和二分类的输出层,但现在因为梯度消失问题,在深层网络中基本被ReLU替代了。
怎么理解
S型曲线,把任何数压到0~1之间
计算机 · S曲线压到0和1之间
公式是1/(1+e^(-x)),把任意大小的数压缩到0和1之间,形状像字母S。以前常用作激活函数和二分类的输出层,但现在因为梯度消失问题,在深层网络中基本被ReLU替代了。
S型曲线,把任何数压到0~1之间