TensorFlow.js: MNIST CNN 전이 학습

설명

이 예제는 브라우저에서 사전 훈련된 모델을 다시 훈련합니다. 이 모델은 파이썬에서 훈련되어 TensorFlow.js 포맷으로 변환된 것입니다. 그다음 브라우저에서 데이터를 사용해 추가적으로 훈련할 수 있습니다. 이미 훈련된 신경망을 재훈련하는 것을 전이 학습(transfer learning)이라고 부릅니다.

여기에서는 사전 훈련된 모델이 MNIST 데이터 중 숫자 0~4에서만 훈련되었습니다. 브라우저에서 전이 학습에 사용할 데이터는 숫자 5~9로 이루어져 입니다. 이 예는 사전 훈련된 모델의 처음 몇 개의 층을 전이 학습을 통해 새로운 데이터에 대한 특성 추출기로 사용할 수 있다는 것을 보여줍니다. 그 결과로 새로운 데이터에 대한 훈련 속도를 높일 수 있습니다.

상태

모델 적재

모델 재훈련

모델을 재훈련하는 방법은 세 가지입니다.

• 베이스 모델을 동결하기: 가장 일반적인 전이 학습 방법입니다. 여기에서는 베이스 모델의 처음 일곱 개 층을 동결하고 마지막 다섯 개의 층을 새로운 데이터에서 훈련합니다.
• 베이스 모델을 동결하지 않기: 기본 설정으로 비교하려면 이 옵션을 선택하세요. 주의해야 할 점은 모델이 수렴하는데 더 오래 걸리고 훈련이 진행됨에 따라 가중치(그리고 손실 값)에 변동이 큽니다.
• 가중치를 다시 초기화하기: 모든 가중치를 초기화하여 모델을 밑바닥부터 훈련합니다.

모델 테스트

아래는 전이 학습 데이터셋(숫자 5~9)에 있는 숫자 샘플의 "ASCII" 비트맵입니다. 화면의 수치는 이미지에서 가져온 흑백 채널의 정수 값입니다. 이 값을 수정하여 모델이 출력한 분류 확률에 영향을 미치는지 확인할 수 있습니다.

모델 출력