2d pose estimation 에서 관절의 위치를 학습하기 위해 network 의 output 을 heatmap 으로 해서 학습을 하는 경우가 많다.
* heatmap
이진맵과 가우시안 맵 두 가지가 있다.
이진맵으로 heatmap 을 만들 경우 joint 의 위치가 1 아닌 부분이 0 을 갖는 이진맵을 만든다. 가우시안 분포를 갖는 heatmap 은 joint 위치를 중심으로 가우시안 분포값을 가지게 된다.
가우시안 heatmap은 네트워크 학습을 더 용이하게 한다??
mse loss 와 bce loss 의 역전파 과정에서의 차이점??
* loss
이진맵 heatmap 의 경우는 BCE loss 를 사용하여 해당 픽셀에 관절이 존재하는지 계산하고, (가우시안 분포로도 bce loss 를 사용한다!)
가우시안 heatmap 의 경우는 보통 MSE Loss 를 사용하여 x,y 좌표계 값의 평균 제곱의 오차를 계산한다.
+ MSE Loss (Mean Squared Error)
MSE Loss 는 예측값과 실제값의 차이의 제곱의 평균이다. 따라서 차이가 커질수록 제곱 연산에 의해 값이 영향을 많이 받는다. 이 말은 이상치값에 영향을 많이 받는다는 의미이기도 하다.
왼쪽은 MAE Loss (Mean Absolute Error) 이다. L1 Loss 라고도 불린다. 오른쪽은 MSE Loss 로 L2 Loss 로도 불린다.
MAE Loss 같은 경우는 기울기가 항상 같기 때문에 변화량이 항상 일정하고, 반면에 MSE Loss는 최적값에 가까워질수록 그 변화량이 달라지기 때문에 최적값에 수렴하기 더 용이하다.
