제한된 의료 데이터셋에서 효과적인 트랜스포머와 합성곱 신경망 융합

초록

최근 인공지능 연구에서 트랜스포머 모델이 주로 사용되고 있다. 트랜스포머 구조는 합성곱 신경망에 비해 더 많은 가중치를 학습시킬 수 있으므로 다양한 연구에서 기본 구조로 사용되고 있다. 그러나 트랜스포머는 대규모 데이터를 활용하여 학습해야 한다는 한계가 있다. 그로 인해 데이터가 한정적인 의료 분야에서는 트랜스포머 구조 적용에 어려움이 있다. 따라서, 본 연구에서는 제한된 의료 데이터셋으로도 트랜스포머를 학습할 수 있는 융합 구조를 제안한다. 융합 구조는 트랜스포머 인코더와 합성곱 신경망 디코더를 결합함으로써, 학습 과정에서 트랜스포머 인코더가 안정적으로 수렴할 수 있게 하고, 영상 내의 전역적 특징과 지역적 특징을 모두 학습할 수 있게 한다. 또한, 빠르고 안정적인 영상 분할 학습을 위해 세 가지의 손실함수를 결합한 손실함수를 이용한다. 본 연구에서는 두 개의 대장내시경 용종 데이터셋을 사용하여 제안하는 구조의 우수성과 안정성을 검증한다. 융합 구조는 용종 분할과 같은 의료 영상 분할 외에도 의료 영상 분석, 의료 영상 내 질병 탐지 등 여러 분야에서 활용될 수 있을 것이라 조망된다.

키워드