합성곱 신경망 · CNN

합성곱 신경망이란?

CNN이 바꾼 것은 '특징을 누가 만드는가'입니다. 이전에는 엔지니어가 모서리 방향이나 밝기 변화를 재는 수식을 손으로 설계했고, 제품이 바뀌면 그 수식을 처음부터 다시 짰습니다. CNN은 그 수식에 해당하는 필터 값 자체를 학습 대상으로 돌려놓았습니다. 그래서 현장이 바뀌면 코드가 아니라 데이터를 갈아 끼우는 방식으로 일의 성격이 옮겨갔고, 개발의 병목은 알고리즘이 아니라 라벨이 붙은 이미지 확보가 되었습니다. 실무에서는 이 차이가 '알고리즘 개발 6개월'과 '데이터 수집 6주'의 차이로 나타납니다.

구조는 대개 합성곱층, 풀링층, 판정을 맡는 완전연결층으로 나뉩니다. 3×3 크기의 필터 하나가 이미지 전체를 훑기 때문에 같은 규모의 완전연결 신경망보다 학습할 값이 수백 분의 1로 줄고, 대상이 사진 왼쪽에 있든 오른쪽에 있든 같은 필터가 반응합니다. 현업에서 밑바닥부터 학습시키는 경우는 드뭅니다. ImageNet 120만 장으로 미리 학습된 모델을 가져와 뒷단만 다시 훈련하는 전이학습이 기본이고, 사내 이미지가 수천 장이면 대개 이 방식으로 충분합니다. 최근 비전 트랜스포머(ViT)가 대형 데이터셋에서 앞서지만, 수천 장 규모의 사내 데이터에서는 여전히 CNN이 안정적입니다.

가장 흔한 사고는 검증 정확도만 보고 라인에 올리는 것입니다. 불량률 1%인 공정에서는 전부 양품이라고 찍어도 정확도 99%가 나오므로, 실제로 봐야 할 숫자는 미검출을 걸러내는 재현율입니다. 또 CNN은 위치 변화에는 어느 정도 강하지만 회전·확대·조명 색온도 변화에는 자동으로 강해지지 않아, 야간 조명으로 바꾼 뒤 검출률이 급락하는 일이 흔합니다. 같은 제품을 찍은 연속 프레임이 학습셋과 검증셋에 나뉘어 들어가면 실제보다 훨씬 높은 점수가 찍히는 데이터 누수가 생겨, 라인 투입 뒤에야 진짜 성능이 드러납니다. 판단 근거를 볼 수 없다는 오해도 많은데, Grad-CAM 같은 도구로 모델이 어느 부위를 보고 불량이라 했는지 열 지도로 확인할 수 있습니다.