activation function1 Activation Function (활성화 함수) Activation Function의 역할 Neural Network는 layer에서 데이터를 연산하고 다음 layer로 값을 전달해주는 방법으로 설계되어있습니다. 이때 값을 그대로 전달하는 것이 아니고, activation function을 통해 변화된 값을 전달하게 됩니다. 가장 시초인 Single layer 퍼셉트론일때는 Step function을 통해 threshold를 넘으면 1, 못넘으면 0으로 전달유무만 결정했습니다. 하지만 Multi layer 뉴럴네트워크로 발전하면서 단순한 전달유무가 아닌 값을 변화시켜 전달하는 함수를 사용하게 되었습니다. 또한 활성함수로는 반드시 선형(linear)함수가 아닌 비선형(non-linear)함수를 사용해야만 합니다. 왜냐하면 네트워크가 선형 수식으로만 이루.. 2022. 6. 28. 이전 1 다음 728x90
