attention2 [EECS 498-007 / 598-005] Lecture 13: Attention 본 게시글은 Justin Johnson 교수님의 Deep Learning for Computer Vision, University of Michigan 정리글입니다. 개인적인 생각이 서술되어 있습니다. 잘못된 내용이 존재할 확률이 존재하기에 주의 바랍니다. 잘못된 내용, 오타는 지적해 주시면 감사하겠습니다. 강의링크: https://www.youtube.com/watch?v=YAgjfMR9R_M&list=PL5-TkQAfAZFbzxjBHtzdVCWE0Zbhomg7r&index=13 강의자료: https://web.eecs.umich.edu/~justincj/slides/eecs498/498_FA2019_lecture13.pdf seq2seq & Attention 위 그림은 이전시간에 배운 RNN을 사용하.. 2023. 2. 9. [논문 정리] Attention Is All You Need 본 게시글은 Attention Is All You Need 정리글입니다. 개인적인 생각이 서술되어 있습니다. 잘못된 내용이 존재할 확률이 존재하기에 주의바랍니다. 잘못된 내용, 오타는 지적해주시면 감사하겠습니다. Reference Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., ... & Polosukhin, I. (2017). Attention is all you need. Advances in neural information processing systems, 30. / APA style Abstract Sequence 변환에 있어 encoder + decoder로 이루어진 recurrent, CNN이 사용되.. 2023. 1. 8. 이전 1 다음