Cross Entropy와 Softmax
Cross-entropy와 Softmax가 자꾸 헷갈려서 정리를 한 번 해보자. +) 추가로 sigmoid와 tanh 도 보자. Softmax(zi)=ezi∑jezj\text…
2025/04/27
NEW POST
Jinsoolve.
Categories
Tags
4월 안에는 꼭...
About
SHORT.
(9)
Word2Vec과 GloVe의 차이는 무엇일까?
그래서 Word2Vec과 GloVe의 차이는 대체 뭘까? 개인적으로 매우 헷갈리는 topic이라서 내 개인 이해를 정리해 보았다. 먼저 standard한 Word2Vec과…
2025/04/27
NEW POST
Batch Normalization을 하는 이유는 뭘까?
각 batch 데이터마다 분포가 다르게 되면 모델의 학습이 어렵다. 즉, 전에는 0 ~ 20 데이터가 들어와서 그거대로 학습했는데, 이번 batch에는 2000 ~ 4000…
2025/04/25
NEW POST
삼격형의 두 변의 길이와 사잇각을 알 때, 나머지 한 변의 길이를 구하는 공식
위와 같은 삼각형이 존재할 때, 변의 길이 b, c와 그 사잇각 α\alphaα를 알고 있다고 가정하자. 이때 a의 길이를 구하는 공식은 다음과 같다. a=b2+c2−2bccos…
2025/02/20
NEW POST
c++에서 내림차순에 대한 lower_bound와 upper_bound하기
내림차순 정렬이 되어있을 때의 lower_bound와 upper_bound 사용법 lower_bound(v.begin(), v.end(), num, greater<int>());…
2025/02/10
NEW POST
C++에서 이진수의 비트 수를 세는 방법
101101101101101101 이런 이진수가 주어질 때 C++에서 1의 개수를 세려면 어떻게 해야 할까? // unsigned int __builtin_popcount();…
2025/01/13
NEW POST
세 점의 좌표가 주어졌을 때 삼각형의 면적 구하는 방법
세 점의 좌표가 주어졌을 때 어떻게 빠르게 삼각형의 너비를 계산할 수 있을까? 세 점 A(x1,y1),B(x2,y2),C(x3,y3)A(x_1, y_1), B(x_2, y_2),…
2025/01/13
NEW POST
표준화와 정규화
표준화와 정규화에 대해서 간단히 알아보자.
2025/01/09
NEW POST
로지스틱 회귀의 비용 함수는 왜 이렇게 생겼을까?
로지스틱 회귀의 비용 함수는 왜 이렇게 생겼을까?
2024/12/26
NEW POST
