KUBIG 2023-1 활동 블로그

#0 Abstract 16기 임정준_R-CNN보다 Fast R-CNN을 보고자 했던 이유는 더 정교해진 Multi-task Loss를 기반으로 더 좋은 성능을 보인 비교적 최신 모델이기 때문이었다. 더불어, RoI(Region of Interest) Pooling 이나 Truncated SVD와 같은 Method들을 총체적으로 이해하는데 그 주안점이 있었다. 논문에서 나타난 알고리즘의 주요한 변화들은 다음과 같다. - 더 높아진 Detection Quality(mAP) - Multi-task Loss 기반의 Single Stage training - 모든 Network layers 업데이트 가능 - Feature Caching을 위한 디스크 공간 불필요 Fast R-CNN은 기존 R-CNN 대비 VGG1..

방학 세션/CV 2023. 1. 31. 23:20

https://blog.naver.com/andrew9909 에도 동시에 글을 업로드하고 있습니다. 0. 들어가며 ​ 역대 ILSVRC 우승 모델들을 보면, 최대 22개의 층으로 구성되어 있는 것을 볼 수 있습니다. 2014년의 GoogleNet이 22개의 층을 가지는 것에 비교하면, ResNet은 152개의 층을 가져 약 7배나 깊어진 모습을 확인할 수 있습니다. 층을 깊게 한다는 것은 쉽게 말해 더 자세한 분석을 할 수 있도록 하지만, 기존 모델들이 층을 계속해서 깊게만 만들지 않은 데에는 이유가 있습니다. ​ 위 표를 보면, ResNet의 핵심 아이디어인 Skip Connection을 적용하지 않은 일반적인 네트워크에서, 20층으로 구성된 네트워크가 56층으로 구성된 네트워크보다 더 좋은 성능을 내..

방학 세션/CV 2023. 1. 31. 16:46

Abstract 본 논문에서는 residual을 학습과정에서 사용하여('learning residual functions with reference to the layer inputs') 이전보다 더 깊은 신경망을 효과적으로 학습시키는 방법론을 제시하였습니다. Introduction 신경망의 깊이는 이미지의 특징을 효과적으로 추출하여 학습하는 데에 있어 중요한 역할을 합니다. 그동안 ImageNet dataset에서 좋은 성능을 보인 모델들 모두 layer를 깊게 쌓아올렸습니다. 그러나 단순히 더 깊게 모델을 쌓는 것이 효과적이라고 할 수는 없습니다. 많은 layer를 학습하는 과정에서 흔히 겪을 수 있는 문제점은 '기울기 손실과 폭주(vanishing/exploding gradients)'입니다. 이는..

방학 세션/CV 2023. 1. 31. 16:08

#0 Abstract 16기 임정준_2주차 Review Paper은 ResNet입니다. VGG보다는 복잡한 구조를 형성하고 있으나, 연산량이 비교적 적고(빠른 학습이 가능) VGG와 함께 최근에도 backbone으로 많이 활용되는 모델입니다. 모델이 나온 당시에도 'Residual Block'이라는, 새로운 관점의 Training을 시도하여 더 깊은 layer들의 학습을 가능하게 했던 Network였습니다. CNN Model의 Depth에 대한 고민을 기반으로 이를 새로운 Optimization을 시도한 ResNet 프레임워크에 대해 알아보겠습니다. #1 Problem of Plain Network When Deeper 'Deep CNN'이 Image Classification 문제에서 떠오르는 돌파구가..

방학 세션/CV 2023. 1. 31. 00:16

이글은 임시글입니다.

방학 세션/CV 2023. 1. 29. 20:19