분류 전체보기111 Multimodal의 효과 - MERL:Multimodal Event Representation Learning in Heterogeneous Embedding Spaces 안녕하세요 콥스랩(COBS LAB)입니다. 오늘 소개해 드릴 논문은 ‘MERL:Multimodal Event Representation Learning in Heterogeneous Embedding Spaces’입니다. 해당 내용은 유튜브 ‘딥러닝 논문 읽기 모임' 중 ‘MERL' 영상 스크립트를 편집한 내용으로, 영상으로도 확인하실 수 있습니다. (영상링크:https://youtu.be/shnfzksjm1M) 먼저 Event Representation Learning에 대해서 간략하게 설명해 드리고 넘어가겠습니다. Event Representation는 어떤 하나의 사건을 Embedding 공간 안에 표현하는 방법입니다. 예를 들어서 오른쪽 예시를 보시면 Person X threw basketball.. 2022. 6. 3. Self-training의 중요성- Self-training Improves Pre-training for Natural Language Understanding 안녕하세요 콥스랩(COBS LAB)입니다. 오늘 소개해 드릴 논문은 ‘Self-training Improves Pre-training for Natural Language Understanding’입니다. 이 논문은 페이스북과 스탠퍼드에서 2020년에 발표한 논문입니다. 해당 내용은 유튜브 ‘딥러닝 논문 읽기 모임' 중 ‘Self-training Improves Pre-training for Natural Language Understanding’ 영상 스크립트를 편집한 내용으로, 영상으로도 확인하실 수 있습니다. (영상링크:https://youtu.be/9iJLzmrUN-8) Self training에 대해서 간단하게 설명하고 넘어가겠습니다. Self training은 Semi supervised le.. 2022. 6. 3. 이미지처리, CNN 에서 Transformer로... DeiT: Training Data-Efficient Image Transformer & Distillation through Attention 오늘 소개해 드릴 논문은 ‘Training Data-Efficient Image Transformer & Distillation through Attention’입니다. 콥스랩(COBS LAB)에서는 주요 논문 및 최신 논문을 지속적으로 소개해드리고 있습니다. 해당 내용은 유튜브 ‘딥러닝 논문읽기 모임' 중 ‘Training Data-Efficient Image Transformer & Distillation through Attention’ 영상 스크립트를 편집한 내용으로, 영상으로도 확인하실 수 있습니다. (영상링크: https://youtu.be/LYYxv9mv5qw) 이 논문은 흔히 DeiT라고 불리며 발표된 지 얼마 되지 않은 논문임에도 불구하고 큰 인기를 끌고 있는 논문입니다. 순서는 간단한 .. 2022. 6. 3. 다양한 prior에서의 Contrastive learning 성능 - Intriguing Properties of Contrastive Losses 안녕하세요 콥스랩(COBS LAB)입니다. 오늘 소개해 드릴 논문은 ‘Intriguing Properties of Contrastive Losses’입니다. 해당 내용은 유튜브 ‘딥러닝 논문 읽기 모임' 중 ‘Intriguing Properties of Contrastive Losses’ 영상 스크립트를 편집한 내용으로, 영상으로도 확인하실 수 있습니다. (영상링크:https://youtu.be/uzsI-dEoK2c) 오늘 발표한 논문은 2021년 NIPS에서 발표가 되었고요. 논문의 저자인 Ting Chen는 Google 리서치에서 발표한 SimCLR의 주 저자이기도 합니다. 논문 내용은 Contrastive loss로 학습시켰을 때 나타나는 세 가지 특성입니다. 첫 번째 특성 같은 경우에는 Contr.. 2022. 5. 30. 이전 1 ··· 20 21 22 23 24 25 26 ··· 28 다음
