Cross Entropy와 Softmax
Cross-entropy와 Softmax가 자꾸 헷갈려서 정리를 한 번 해보자. +) 추가로 sigmoid와 tanh 도 보자. Softmax(zi)=ezi∑jezj\text…
2025/04/27
NEW POST
이런 이진수가 주어질 때 C++에서 1의 개수를 세려면 어떻게 해야 할까?
cpp1// unsigned int 2__builtin_popcount(); 3 4// long long 5 __builtin_popcountll();
그러나 c++20 이후부터는 아래 함수로 가능하는 듯 하다.
cpp1popcount();
참고
https://codingdog.tistory.com/entry/c-20부터-적용된-bit-popcount-함수에-대해서-알아봅시다
관련 포스트가 8개 있어요.
Word2Vec과 GloVe의 차이는 무엇일까?
그래서 Word2Vec과 GloVe의 차이는 대체 뭘까? 개인적으로 매우 헷갈리는 topic이라서 내 개인 이해를 정리해 보았다. 먼저 standard한 Word2Vec과…
2025/04/27
NEW POST
Batch Normalization을 하는 이유는 뭘까?
각 batch 데이터마다 분포가 다르게 되면 모델의 학습이 어렵다. 즉, 전에는 0 ~ 20 데이터가 들어와서 그거대로 학습했는데, 이번 batch에는 2000 ~ 4000…
2025/04/25
NEW POST
삼격형의 두 변의 길이와 사잇각을 알 때, 나머지 한 변의 길이를 구하는 공식
위와 같은 삼각형이 존재할 때, 변의 길이 b, c와 그 사잇각 α\alphaα를 알고 있다고 가정하자. 이때 a의 길이를 구하는 공식은 다음과 같다. a=b2+c2−2bccos…
2025/02/20
NEW POST
