Activation Function에서 활용한 sigmoid와 Softmax가 어떤 역할을 하는 지 배워보자. sigmoid와 softmax는 어떤 차이가 있는지, 각각 어떻게 활용되는지 확인해보자. sigmoid는 왜 탄생되었을까라는 생각도 해볼 수 있다. Sigmoid Function sigmoid를 알기 전에 Logit을 알아야하고, Logit을 알기 전에 odds 를 알아야한다. 그 이유는 sigmoid는 odds에서 변형되어, 탄생됐기 때문이다. Odds ratio odds ratio는, 한 사건이 일어날 확률 대비 한 사건이 일어나지 않을 확률의 비율?이라고 생각하면 된다. 예를 들어, 동전을 던질 때, 뒷면이 나올 확률 대비 앞면이 나올 확률은 1이다. 두 확률이 동일하기 때문이다. odds..
