[2차 프로젝트] CNN 구조의 차량 분류 모델 연구 (2) (개발자 취업코스, 국비 지원, 구글 크롤링, 데이터 전처리, 이미지 전처리, 전이 학습, CNN 모델)
2023.02.07 - [Project] - [2차] CNN 구조의 차량 분류 모델 연구 (1)
[2차] CNN 구조의 차량 분류 모델 연구 (1)
위 개와 고양이 이미지는 만약 이미지 분류를 했을 때, 특징이 뚜렷하여 구별이 쉽다. 하지만 아래 사진은 어떨까? 컴퓨터는 분류를 위해 스킨 헤어, 안경, 사람이라는 특징을 제외한 다른 특징
zzgrworkspace.tistory.com
딥 러닝 모델을 설계하기에 앞서 데이터 셋을 어떻게 구성하게 됐는지에 대한 내용을 이전 포스트에서 설명했다. 이어서 딥 러닝 모델 설계에 대한 내용이다. 우선, 전이학습 없이 제작한 CNN 모델 중 accuracy가 높은 구조를 기준으로 전이학습을 수행하기로 하였다. 전이학습을 하지 않은 기본 CNN 모델에 대한 evaluate 결과값과 그래프는 다음과 같다.
기본 CNN 모델을 토대로 세 가지의 전이학습 모델(MobileNet, ResNet, DenseNet)을 제작하여 learning rate 기본값인 0.001로 accuracy를 측정하였다.
전이학습 시에 learning rate 기본값인 0.001을 사용했을 때, MobileNet을 제외하고는 성능이 좋지 않았다. Learning rate는 신경망에서 parameter 값을 얼마나 재조정할 것인지를 결정해주는 수치인데, 전이학습한 모델이 imageNet 데이터셋을 학습할 때 조정한 parameter 값을 재조정하는 과정에서 성능이 떨어졌다고 판단하였다. 차량 이미지 데이터셋의 크기가 작기 때문에 learning rate 값을 줄여서 크기가 큰 imageNet 데이터셋에 대한 parameter 값을 조금 더 반영하게 만들었다. 다음은 learning rate를 0.0001 로 줄인 각 전이학습 모델의 evaluate 결과와 loss, accuracy에 대한 그래프이다.
나머지 두 모델과 다르게 ResNet 모델에서는 validation data의 loss와 accuracy 값이 epoch 16부터 정상화 되고, 그 수치도 다른 모델에 비해 낮게 측정되었다. 이러한 이유로 Fine tuning은 MobileNet과 DenseNet 모델에 대해 진행하였다.
Fine tuning 부터는 다음 포스트에 이어서 설명하겠다.