Rectifier
#数学
ReLU
(rectified linear unit)
機械学習
において、
活性化関数
として用いられる
関数
$ {\rm ReLU}(x) = x^+ = \max(0, x) = \frac{x + |x|}{2} = \left\{ \begin{aligned} & x && (x > 0) \\ & 0 && (x \leq 0) \end{aligned} \right.
https://en.wikipedia.org/wiki/Rectifier_(neural_networks)
Desmos
https://gyazo.com/5fb8959bd08f784ba3a1e931024cdb35
https://www.desmos.com/calculator/gyabvtvzdg