자연어 처리 논문22 Retrieval의 효과 - Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks 안녕하세요 콥스랩(COBS LAB)입니다. 오늘 소개해 드릴 논문은 ‘Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks’입니다. 해당 내용은 유튜브 ‘딥러닝 논문 읽기 모임' 중 ‘Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks’ 영상 스크립트를 편집한 내용으로, 영상으로도 확인하실 수 있습니다. (영상링크:https://www.youtube.com/watch?v=IUwfhbZYTno) 해당 논문은 현재 Pretrain Language 모델이 준수한 성능을 보이고 있고, 다양한 학습 방식으로 대부분의 task에서 활용될 수 있다고 언급합니다. 예를 들어 BERT는 마스크 .. 2022. 7. 27. Pattern Exploiting Training - Exploiting Cloze Questions for Few Shot Text Classification and Natural Language Inference 안녕하세요 콥스랩(COBS LAB)입니다. 오늘 소개해 드릴 논문은 ‘Exploiting Cloze Questions for Few Shot Text Classification and Natural Language Inference’입니다. 해당 내용은 유튜브 ‘딥러닝 논문 읽기 모임' 중 ‘Exploiting Cloze Questions for Few Shot Text Classification and Natural Language Inference’ 영상 스크립트를 편집한 내용으로, 영상으로도 확인하실 수 있습니다. (영상링크:https://youtu.be/tdB0Y6hMtcg) 간단하게 Few shot에 대해서 살펴보고 Natural Language Inference가 무엇인지에 대해서 설명을 드리.. 2022. 7. 25. Perceiver IO : A GENERAL ARCHITECTURE FOR STRUCTURED INPUTS & OUTPUTS 안녕하세요 콥스랩(COBS LAB)입니다. 오늘 소개해 드릴 논문은 ‘Perceiver IO : A GENERAL ARCHITECTURE FOR STRUCTURED INPUTS & OUTPUTS’입니다. 해당 내용은 유튜브 ‘딥러닝 논문 읽기 모임' 중 ‘Perceiver IO’ 영상 스크립트를 편집한 내용으로, 영상으로도 확인하실 수 있습니다. (영상링크:https://youtu.be/rRQ5uBWB9EQ) Perceiver IO는 Perceiver라는 기존에 있던 모델에서 General 하게 확장한 모델입니다. 그래서 이 모델을 알기 위해서 Perceiver에 대한 이해가 있어야 합니다. Perceiver 모델은 원래 Transformer 모델의 General 한 버전이라고 보시면 됩니다. 논문 제목.. 2022. 7. 18. Search System의 Ranking에 DeText를 적용한다면? - Detext: A Deep Text Ranking Framework with BERT 안녕하세요 콥스랩(COBS LAB)입니다. 오늘 소개해 드릴 논문은 ‘Detext: A Deep Text Ranking Framework with BERT’입니다. 해당 내용은 유튜브 ‘딥러닝 논문 읽기 모임' 중 ‘Detext' 영상 스크립트를 편집한 내용으로, 영상으로도 확인하실 수 있습니다. (영상링크:https://youtu.be/tE_1uiaUf1k) 오늘 발표할 논문은 ‘A Deep Text Ranking Framework with BERT’입니다. 2020년 LinkedIn에서 DeText라는 오픈 소스를 발표를 했습니다. DeText는 NLP 관련 ranking, classification, language generation task를 위한 framework입니다. 오늘 발표할 논문에서는.. 2022. 6. 24. 이전 1 2 3 4 5 6 다음
