본문 바로가기
  • CobsLab upgrades your company value by AI technology

인공지능 강의50

NLP(자연어 처리)를 시작한다면 꼭 읽어야 할 필수 논문 ! “Attention is all you need” 오늘 소개해 드릴 논문은 구글의 명작 “Attention is all you need” 입니다. 콥스랩(COBS LAB)에서는 주요 논문 및 최신 논문을 지속적으로 소개해드리고 있습니다. 해당 내용은 유투브 ‘딥러닝 논문읽기 모임’ 중 ‘Attention all you need’ 스크립트 내용을 편집한 내용이며, 영상으로도 확인 하실 수 있습니다. (영상링크: https://youtu.be/EyXehqvkfF0) 이번에 소개할 논문은 2017년도에 나온 ‘Attention all you need’ 로 google scholar citation이 2022.04.22일 기준 40357건일 정도로 여전히 핫한 논문입니다. 전체적인 내용은, 모델 아키텍처에 조금 더 포인트를 맞추었습니다. ‘Transformer.. 2022. 5. 16.
이미지 처리 깊게 더 깊게 ResNet 오늘 소개해 드릴 논문은 ‘ResNet: Deep Residual Learning for Image Recognition’입니다. 콥스랩(COBS LAB)에서는 주요 논문 및 최신 논문을 지속적으로 소개해드리고 있습니다. 해당 내용은 유투브 ‘딥러닝 논문읽기 모임’ 중 ‘ResNet’ 영상 스크립트를 편집한 내용으로, 영상으로도 확인 하실 수 있습니다. (영상링크: https://youtu.be/JI5kXF_OUkY) ResNet 논문에서는 많은 층으로 구성되어 있는 네트워크가 항상 좋은 퍼포먼스를 보여주는 것은 아니다 라고 시작하면서, 과거에는 많은 층으로 구성된 네트워크가 Overfitting 문제로 좋은 퍼포먼스를 보여주지 못하였음을 말합니다. 하지만 레이어 weite를 처음에 잘 초기화하고 좀 더.. 2022. 5. 16.