인공지능 외주56 Transfer Learning에 관해서… How transferable are features in deep neural networks? 오늘 소개해 드릴 논문은 ‘How transferable are features in deep neural networks?’입니다. 콥스랩(COBS LAB)에서는 주요 논문 및 최신 논문을 지속적으로 소개해드리고 있습니다. 해당 내용은 유투브 ‘딥러닝 논문읽기 모임’ 중 ‘Trasfer learning’ 영상 스크립트를 편집한 내용으로, 영상으로도 확인 하실 수 있습니다. (영상링크: https://youtu.be/JI5kXF_OUkY) https://youtu.be/sXIurFr804w Transfer learning이라는 개념은 이전에 포스팅 한 ‘BERT’라는 논문에서도 등장한 개념입니다. 본 논문을 통해서, Transfer learning의 개념을 자세히 알아보겠습니다. ‘How transfer.. 2022. 5. 16. 자연어 처리의 근본, BERT 논문 리뷰 오늘 소개해 드릴 논문은 ‘BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding’입니다. 콥스랩(COBS LAB)에서는 주요 논문 및 최신 논문을 지속적으로 소개해드리고 있습니다. 해당 내용은 유튜브 ‘딥러닝 논문 읽기 모임’ 중 ‘BERT’ 영상 스크립트를 편집한 내용으로, 영상으로도 확인하실 수 있습니다. (영상링크: https://youtu.be/vo3cyr_8eDQ) BERT는 transformer를 활용한 language representation에 관한 논문입니다. BERT는 transfer-learning 방식으로 학습을 합니다. 즉, 대용량 unlabeled data로 모델을 pre-training을.. 2022. 5. 16. NLP(자연어 처리)를 시작한다면 꼭 읽어야 할 필수 논문 ! “Attention is all you need” 오늘 소개해 드릴 논문은 구글의 명작 “Attention is all you need” 입니다. 콥스랩(COBS LAB)에서는 주요 논문 및 최신 논문을 지속적으로 소개해드리고 있습니다. 해당 내용은 유투브 ‘딥러닝 논문읽기 모임’ 중 ‘Attention all you need’ 스크립트 내용을 편집한 내용이며, 영상으로도 확인 하실 수 있습니다. (영상링크: https://youtu.be/EyXehqvkfF0) 이번에 소개할 논문은 2017년도에 나온 ‘Attention all you need’ 로 google scholar citation이 2022.04.22일 기준 40357건일 정도로 여전히 핫한 논문입니다. 전체적인 내용은, 모델 아키텍처에 조금 더 포인트를 맞추었습니다. ‘Transformer.. 2022. 5. 16. 이미지 처리 깊게 더 깊게 ResNet 오늘 소개해 드릴 논문은 ‘ResNet: Deep Residual Learning for Image Recognition’입니다. 콥스랩(COBS LAB)에서는 주요 논문 및 최신 논문을 지속적으로 소개해드리고 있습니다. 해당 내용은 유투브 ‘딥러닝 논문읽기 모임’ 중 ‘ResNet’ 영상 스크립트를 편집한 내용으로, 영상으로도 확인 하실 수 있습니다. (영상링크: https://youtu.be/JI5kXF_OUkY) ResNet 논문에서는 많은 층으로 구성되어 있는 네트워크가 항상 좋은 퍼포먼스를 보여주는 것은 아니다 라고 시작하면서, 과거에는 많은 층으로 구성된 네트워크가 Overfitting 문제로 좋은 퍼포먼스를 보여주지 못하였음을 말합니다. 하지만 레이어 weite를 처음에 잘 초기화하고 좀 더.. 2022. 5. 16. 이전 1 ··· 11 12 13 14 다음
