Cross Entropy와 Softmax
Cross-entropy와 Softmax가 자꾸 헷갈려서 정리를 한 번 해보자. +) 추가로 sigmoid와 tanh 도 보자. Softmax(zi)=ezi∑jezj\text…
2025/04/27
NEW POST
내림차순 정렬이 되어있을 때의 lower_bound와 upper_bound 사용법
cpp1lower_bound(v.begin(), v.end(), num, greater<int>());
lower_bound:=num과 같거나 작은 원소들 중 첫번째 원소upper_bound:=num보다 작은 원소들 중 첫번째 원소
관련 포스트가 8개 있어요.
Word2Vec과 GloVe의 차이는 무엇일까?
그래서 Word2Vec과 GloVe의 차이는 대체 뭘까? 개인적으로 매우 헷갈리는 topic이라서 내 개인 이해를 정리해 보았다. 먼저 standard한 Word2Vec과…
2025/04/27
NEW POST
Batch Normalization을 하는 이유는 뭘까?
각 batch 데이터마다 분포가 다르게 되면 모델의 학습이 어렵다. 즉, 전에는 0 ~ 20 데이터가 들어와서 그거대로 학습했는데, 이번 batch에는 2000 ~ 4000…
2025/04/25
NEW POST
삼격형의 두 변의 길이와 사잇각을 알 때, 나머지 한 변의 길이를 구하는 공식
위와 같은 삼각형이 존재할 때, 변의 길이 b, c와 그 사잇각 α\alphaα를 알고 있다고 가정하자. 이때 a의 길이를 구하는 공식은 다음과 같다. a=b2+c2−2bccos…
2025/02/20
NEW POST
