합성곱 신경망에서 자주 사용하는 활성화 함수는 렐루(ReLU)가 있다. 렐루 함수 전까지는 은닉층에 시그모이드 함수를 활성화 ㅎ마수로 사용했다.
렐루 함수는 주로 합성곱층에 적용되는 활성화 함수로 합성곱신경망의 성능을 더 높여준다. 렐루 함수는 0보다 큰 값은 그대로 통과시키고 0보다 작은 값은 0으로 만든다.
렐루함수 구현 def relu(x): return np.maximum(x, 0) x = np.array([-1, 2, -3, 4, -5]) relu(x) #array([0, 2, 0, 4, 0]) r_out = tf.nn.relu(x) r_out.numpy() #array([0, 2, 0, 4, 0]) 합성곱 신경망 import tensorflow as tf class ConvolutionNetwork: def __init__(self, n_kernels=10, units=10, batch_size=32, learning_rate=0.1): self.n_kernels = n_...
#
python
#
합성신경망
원문 링크 : Python : 합성곱 신경망
