차근차근 한걸음씩 개발 일기

https://wikidocs.net/31379 16-01 트랜스포머(Transformer) * 이번 챕터는 앞서 설명한 어텐션 메커니즘 챕터에 대한 사전 이해가 필요합니다. 트랜스포머(Transformer)는 2017년 구글이 발표한 논문인 Attention i… wikidocs.net

오늘은 EfficientDet에 대해 알아보려한다. EfficientDet은 Real World App에서 규모가 큰 모델, 높은 계산 비용의 한계를 극복하고 다양한 제약 조건의 환경에서 사용이 가능하도록 더 효율적인 모델의 필요성에 의해 만들어졌다. 연구진들은 높은 Accuracy와 더 좋은 efficiency를 동시에 달성할 수 있는 모델 설계를 위해 2가지 challenge를 설정하였다. Efficient multi-scale feature fusion: 일반적인 CNN 모델에서는 feature를 fusion할때 가로 세로 사이즈만 맞추고 합했는데 서로 다른 input feature들은 해상도가 다르기 때문에 그것들을 연산해서 outout을 만들어 낼때 단순히 합하는 것은 부족함을 채우기 위해 다음..