자연어 처리 논문22 SPLADE : Sparse Lexical and Expansion Model for First Stage Ranking 안녕하세요 콥스랩(COBS LAB)입니다. 오늘 소개해 드릴 논문은 ‘SPLADE : Sparse Lexical and Expansion Model for First Stage Ranking’입니다. 해당 내용은 유튜브 ‘딥러닝 논문 읽기 모임' 중 ‘SPLADE : Sparse Lexical and Expansion Model for First Stage Ranking’ 영상 스크립트를 편집한 내용으로, 영상으로도 확인하실 수 있습니다. (영상링크:https://youtu.be/OvVajh6yPEg) 이번 시간에는 간단한 배경 설명과 SPLADE가 제시하는 논문이 무엇인지에 대해서 설명드리겠습니다. 자연어처리 분야에서 메인 테스크가 아닌 Neural 네트워크를 기반으로 한 Information retr.. 2023. 1. 20. GTRANS-Grouping and Fusing Transformer Layers for Neural Machine Translation 안녕하세요 콥스랩(COBS LAB)입니다. 오늘 소개해 드릴 논문은 ‘GTRANS-Grouping and Fusing Transformer Layers for Neural Machine Translation'입니다. 해당 내용은 유튜브 ‘딥러닝 논문 읽기 모임' 중 ‘GTRANS-Grouping and Fusing Transformer Layers for Neural Machine Translation’ 영상 스크립트를 편집한 내용으로, 영상으로도 확인하실 수 있습니다. (영상링크:https://youtu.be/DgqnbETZNZw) 논문요약부터 간단하게 보여 드리겠습니다. 논문은 트랜스포머 모델의 Multi level layer의 어떤 정보들을 활용해서 fusion 방식을 통해서 그 정보를 잘 취합해서.. 2023. 1. 13. AEDA: An Easier Data Augmentation Technique for Text Classification 안녕하세요 콥스랩(COBS LAB)입니다. 오늘 소개해 드릴 논문은 ‘AEDA: An Easier Data Augmentation Technique for Text Classification’입니다. 해당 내용은 유튜브 ‘딥러닝 논문 읽기 모임' 중 ‘AEDA’ 영상 스크립트를 편집한 내용으로, 영상으로도 확인하실 수 있습니다. (영상링크:https://youtu.be/E9rcpKtGars) 논문 백그라운드입니다. Data Augmentation라는 것은 이미지에서 조금 직관적으로 볼 수 있습니다. 이 강아지 사진이 있으면 random cropping을 하거나 random erasing 혹은 이 두 가지를 같이 해줘도 강아지라는 데이터이기 때문에 그거는 변하지 않습니다. 이런 데이터들로 모델을 학습시킬 .. 2022. 12. 26. Improving the Quality Trade-Off for Neural Machine Translation Multi-Domain Adaptation 안녕하세요 콥스랩(COBS LAB)입니다. 오늘 소개해 드릴 논문은 ‘Improving the Quality Trade-Off for Neural Machine Translation Multi-Domain Adaptation’입니다. 해당 내용은 유튜브 ‘딥러닝 논문 읽기 모임' 중 ‘Improving the Quality Trade-Off for Neural Machine Translation Multi-Domain Adaptation’ 영상 스크립트를 편집한 내용으로, 영상으로도 확인하실 수 있습니다. (영상링크:https://youtu.be/c8-aLsXqvus) 이 논문은 EMNLP 페이퍼로 제출된 논문이고 내용이 짧고 간단한 내용입니다. 이 논문의 motivation은 NMT 트렌드를 자체가 P.. 2022. 12. 19. 이전 1 2 3 4 5 6 다음
