transformer 논문3 오직 MLP만으로 구성된 딥러닝 모델! - MLP-Mixer: An all-MLP Architecture for Vision 안녕하세요 콥스랩(COBS LAB)입니다. 오늘 소개해 드릴 논문은 ‘MLP-Mixer: An all-MLP Architecture for Vision’입니다. 해당 내용은 유튜브 ‘딥러닝 논문 읽기 모임' 중 ‘MLP-Mixer’ 영상 스크립트를 편집한 내용으로, 영상으로도 확인하실 수 있습니다. (영상 링크: https://youtu.be/L3vEetyNG_w) 본 논문이 이야기하는 특징을 설명드리겠습니다. 지금까지 흘러온 컴퓨터 비전 분야에서 알 수 있듯이 더 큰 데이터 셋 사용과 컴퓨팅 용량 증가라는 패러다임 전환으로 이어지고 있습니다. 그리고 Convolutional Neural Network가 컴퓨터 비전에서 일반적으로 사용하는 네트워크가 되어왔습니다. 이것을 조금 더 개선하고자 batch n.. 2022. 5. 26. Contrastive learning을 이용한 2단계 추상 요약 framework -SimCLS: A Simple Framework for Contrastive Learning of Abstractive Summarization 안녕하세요 콥스랩(COBS LAB) 입니다. 오늘 소개해 드릴 논문은 ‘SimCLS: A Simple Framework for Contrastive Learning of Abstractive Summarization’입니다. 해당 내용은 유튜브 ‘딥러닝 논문 읽기 모임' 중 ‘SimCLS’ 영상 스크립트를 편집한 내용으로, 영상으로도 확인하실 수 있습니다. (영상링크:https://youtu.be/3CPfP7oaXO8) 안녕하세요 오늘 소개해 드릴 논문은 2021년 ACL에서 발표된 SimCLS: A Simple Framework for Contrastive Learning of Abstractive Summarization입니다. 먼저 기존 framework인 Seq2 Seq learning frame.. 2022. 5. 23. 코딩해주는 AI...Competition-Level Code Generation with AlphaCode 안녕하세요 콥스랩(COBSLAB) 입니다. 오늘 소개해 드릴 논문은 ‘Competition-Level Code Generation with AlphaCode’입니다. 해당 내용은 유튜브 ‘딥러닝 논문 읽기 모임' 중 ‘AlphaCode’ 영상 스크립트를 편집한 내용으로, 영상으로도 확인하실 수 있습니다. (영상 링크: https://youtu.be/c7jCWU_ChjE) 코딩을 작성해주는 인공지능 모델을 개발하려는 목적은 개발자들이 더 생산적인 프로그래밍을 할 수 있도록 하고, 일반인들이 코딩 교육을 받을 때 접근하기 쉽게 하도록 하기 위함입니다. 하지만 기존에 자동 코딩을 위한 인공지능 모델은 단순한 코드를 작성하는 정도에 불과한 수준이라서, 실제 알고리즘 이해를 기반으로 사람처럼 복잡한 코드를 작성할.. 2022. 5. 16. 이전 1 다음
