Softplus

Carte Commune · n° 417469

En mathématiques et en machine learning, la fonction softplus est la fonction réelle softplus ⁡ ( x ) = ln ⁡ ( 1 + e x ) . {\displaystyle \operatorname {softplus} (x)=\ln(1+\mathrm {e} ^{x}).} C'est une approximation lisse (et même analytique) d'une rampe, connue comme le rectifier ou ReLU (rectified linear unit) en machine learning. Les noms softplus et SmoothReLU sont utilisés en machine learning. Le nom "softplus" (2000), par analogie avec le nom softmax (1989), vient supposément du fait qu'il s'agit d'une approximation lisse (soft) de la partie positive de x, qui est parfois noté avec l'exposant plus, x + := max ( 0 , x )...

Lire sur Wikipédia · Image Nbarth, CC0