活性関数

sigmoid

$ y = g(x) = \frac{1}{1+e^{-x}}

逆関数

$ x = g^{-1}(y) = \frac{-ln(\frac{1-y}{y})}{ln(e)}

tanh

$ y=g(x)=\frac{e^x-e^{-x}}{e^x+e^{-x}}

逆関数

$ x=g^{-1}(y)=\frac{1}{2}ln(\frac{1+x}{1-x})