자연어 처리 논문22 Multimodal의 효과 - MERL:Multimodal Event Representation Learning in Heterogeneous Embedding Spaces 안녕하세요 콥스랩(COBS LAB)입니다. 오늘 소개해 드릴 논문은 ‘MERL:Multimodal Event Representation Learning in Heterogeneous Embedding Spaces’입니다. 해당 내용은 유튜브 ‘딥러닝 논문 읽기 모임' 중 ‘MERL' 영상 스크립트를 편집한 내용으로, 영상으로도 확인하실 수 있습니다. (영상링크:https://youtu.be/shnfzksjm1M) 먼저 Event Representation Learning에 대해서 간략하게 설명해 드리고 넘어가겠습니다. Event Representation는 어떤 하나의 사건을 Embedding 공간 안에 표현하는 방법입니다. 예를 들어서 오른쪽 예시를 보시면 Person X threw basketball.. 2022. 6. 3. Contrastive learning을 이용한 2단계 추상 요약 framework -SimCLS: A Simple Framework for Contrastive Learning of Abstractive Summarization 안녕하세요 콥스랩(COBS LAB) 입니다. 오늘 소개해 드릴 논문은 ‘SimCLS: A Simple Framework for Contrastive Learning of Abstractive Summarization’입니다. 해당 내용은 유튜브 ‘딥러닝 논문 읽기 모임' 중 ‘SimCLS’ 영상 스크립트를 편집한 내용으로, 영상으로도 확인하실 수 있습니다. (영상링크:https://youtu.be/3CPfP7oaXO8) 안녕하세요 오늘 소개해 드릴 논문은 2021년 ACL에서 발표된 SimCLS: A Simple Framework for Contrastive Learning of Abstractive Summarization입니다. 먼저 기존 framework인 Seq2 Seq learning frame.. 2022. 5. 23. 코딩해주는 AI...Competition-Level Code Generation with AlphaCode 안녕하세요 콥스랩(COBSLAB) 입니다. 오늘 소개해 드릴 논문은 ‘Competition-Level Code Generation with AlphaCode’입니다. 해당 내용은 유튜브 ‘딥러닝 논문 읽기 모임' 중 ‘AlphaCode’ 영상 스크립트를 편집한 내용으로, 영상으로도 확인하실 수 있습니다. (영상 링크: https://youtu.be/c7jCWU_ChjE) 코딩을 작성해주는 인공지능 모델을 개발하려는 목적은 개발자들이 더 생산적인 프로그래밍을 할 수 있도록 하고, 일반인들이 코딩 교육을 받을 때 접근하기 쉽게 하도록 하기 위함입니다. 하지만 기존에 자동 코딩을 위한 인공지능 모델은 단순한 코드를 작성하는 정도에 불과한 수준이라서, 실제 알고리즘 이해를 기반으로 사람처럼 복잡한 코드를 작성할.. 2022. 5. 16. BERT의 fine-tuning을 향상 시키는 방법, Improving BERT Fine-Tuning via Self-Ensemble and Self-Distillation 오늘 소개해 드릴 논문은 ‘Improving BERT Fine-Tuning via Self-Ensemble and Self-Distillation’입니다. 콥스랩(COBS LAB)에서는 주요 논문 및 최신 논문을 지속적으로 소개해드리고 있습니다. 해당 내용은 유투브 ‘딥러닝 논문읽기 모임’ 중 ‘Improving BERT Fine-Tuning via Self-Ensemble and Self-Distillation’ 영상 스크립트를 편집한 내용으로, 영상으로도 확인하실 수 있습니다. (영상링크: https://youtu.be/JI5kXF_OUkY) fine-tuning이라는 개념은 이전 포스팅 한 ‘BERT’와 ‘How transferable are features in deep neural network.. 2022. 5. 16. 이전 1 2 3 4 5 6 다음