#### 1. 일시 : 2021년 5월 18일(화), 15:00-17:00 #### 2. 장소 : 광교 테크노밸리 산업수학혁신센터 세미나실 #### 3. 발표자 : 박사준 박사 (솔트룩스) #### 4. 주요내용 : Meta Pseudo Labels & Vision in Transformer 고전적인 Pseudo labels 방법은 Labeled data로 사전 학습된 teacher model에 Unlabeled data를 넣어 pseudo label을 추출하고, 을 사용하여 student model을 학습하는 방식입니다. 하지만 teacher model이 예측한 pseudo label이 부정확하다면 student model의 성능은 크게 저하되는 문제가 발생합니다. Meta Pseudo Labels은 이러한 Pseudo Labels의 문제를 해결하여 Imagenet benchmark에서 처음으로 90% 이상의 정확도를 달성하였습니다. 이번 발표에서는 Meta Pseudo Labels의 소개와 논문 실험결과 및 한국어 글자 인식에 적용한 실험결과를 소개합니다. 또한 현재 NLP 분야에서 우수한 성능을 자랑하는 Transformer Architecture가 이미지 분야에서는 어떻게 적용되고 있는지 간단히 말씀드리겠습니다. * 코로나19 방역 관련, 방역수칙을 준수하고 최소인원으로 진행하였습니다.