philBaek (백광록) 개발 일기장

논문 제목 : Deep Residual Learning for Image Recognition 오늘은 Deep Residual Learning for Image Recognition에서 마이크로소프트팀이 소개한 ResNet에 대해 다뤄보려 한다. ResNet은 수학적으로 어려운 개념이 적용되었다기보다는 방법론적으로 신박한 개념이 도입되었는데, 바로 잔차 (Residual)라는 개념이다. Residual이란 쉽게 말해서 결과의 오류 정도로 생각하면 되는데 Y에서 X를 뺀 나머지라고 생각하면 된다. 그렇기에 이전에는 Residual을 평가의 기준으로만 삼았지, 이를 이용해 학습을 진행한다는 생각은 없었는데 마이크로소프트에서는 이 Residual을 학습하는데 이용하였고, 그 결과 ILSVRC 2015에서 1위..

논문 제목 : Bag of Tricks for Image Classification with Convolutional Neural Networks 오늘은 Bag of Tricks for Image Classification with Convolutional Neural Networks에 대해 리뷰를 해볼까 한다. 이 논문은 세간에 떠도는 CNN 학습 기법들을 실험하여 그 결과를 정리하였다. 즉, 그전까지는 엔지니어가 일일이 여러 기법들을 따로 적용해가며 실험을 해왔는데, 이 논문에서는 이를 대신하여 모델 구조를 변경하지 않고도 정확도를 개선할 수 있는, 이른바 CNN 학습 꿀팁들에 대해 정보를 제공하고 있다. 캐글 등 대회 준비를 하는 분들에게 가이드라인으로서 많은 도움이 되지 않을까 싶다! 1. Abs..