Cross Entropy와 Softmax
Cross-entropy와 Softmax가 자꾸 헷갈려서 정리를 한 번 해보자. +) 추가로 sigmoid와 tanh 도 보자. Softmax(zi)=ezi∑jezj\text…
2025/04/27
NEW POST
Jinsoolve.
위와 같은 삼각형이 존재할 때, 변의 길이 b, c와 그 사잇각 를 알고 있다고 가정하자. 이때 a의 길이를 구하는 공식은 다음과 같다.
위와 같이 되는 이유는 아래 그림과 같은 삼각형이 존재한다고 가정할 떄, 선분 AC의 길이는 다음과 같다고 할 수 있다.

위와 같이 유도할 수 있다.
Cross-entropy와 Softmax가 자꾸 헷갈려서 정리를 한 번 해보자. +) 추가로 sigmoid와 tanh 도 보자. Softmax(zi)=ezi∑jezj\text…
2025/04/27
그래서 Word2Vec과 GloVe의 차이는 대체 뭘까? 개인적으로 매우 헷갈리는 topic이라서 내 개인 이해를 정리해 보았다. 먼저 standard한 Word2Vec과…
2025/04/27
각 batch 데이터마다 분포가 다르게 되면 모델의 학습이 어렵다. 즉, 전에는 0 ~ 20 데이터가 들어와서 그거대로 학습했는데, 이번 batch에는 2000 ~ 4000…
2025/04/25
내림차순 정렬이 되어있을 때의 lower_bound와 upper_bound 사용법 lower_bound(v.begin(), v.end(), num, greater<int>());…
2025/02/10