본문 바로가기
  • CobsLab upgrades your company value by AI technology

alignment2

DINO 효과-Self-Supervised Transformers for Unsupervised Object Discovery using Normalized Cut 안녕하세요 콥스랩(COBS LAB)입니다. 오늘 소개해 드릴 논문은 ‘Self-Supervised Transformers for Unsupervised Object Discovery using Normalized Cut’입니다. 해당 내용은 유튜브 ‘딥러닝 논문 읽기 모임' 중 ‘Self-Supervised Transformers for Unsupervised Object Discovery using Normalized Cut' 영상 스크립트를 편집한 내용으로, 영상으로도 확인하실 수 있습니다. (영상링크:https://youtu.be/JCEK5nD4MKM) 먼저 Self-Supervised에 대해서 말씀드리겠습니다. 자연어 처리에서의 Self-Supervised learning과 vision Trans.. 2022. 8. 16.
data augmentation의 새로운 관점- SimCSE:Simple Contrastive Learning of Sentence Embedding 안녕하세요 콥스랩(COBS LAB)입니다. 오늘 소개해 드릴 논문은 ‘SimCSE:Simple Contrastive Learning of Sentence Embedding’입니다. 해당 내용은 유튜브 ‘딥러닝 논문 읽기 모임' 중 ‘SimCSE’ 영상 스크립트를 편집한 내용으로, 영상으로도 확인하실 수 있습니다. (영상링크:https://youtu.be/RToEmUYyGO4) 먼저 이 해당 논문을 이해하기 위해서 필요한 background knowledge부터 말씀드리겠습니다. 세 가지의 background knowledge가 필요합니다. 하나는 Contrastive learning입니다. 요즘 NLP에서 굉장히 representation이 잘 되는 연구가 활발하게 진행되고 있는데요. Contrastiv.. 2022. 8. 5.