• Hyperband; A Novel Bandit-Based Approach to Hyperparameter Optimization 정리

    Hyperband; A Novel Bandit-Based Approach to Hyperparameter Optimization 정리 저자 : Lisha Li, Kevin Jamieson, Giulia DeSalvo,Afshin Rostamizadeh, Ameet Talwalkar 학회 : JMLR 2018 날짜 : 2016.05.21 (last revised 2018.06.18) 인용 : 198회 논문 : paper 1. Introduction 1-1. Hyperarameter 모델의 hyperparameter란 학습 과정에 의해 변하지 않는 값으로 모델의 구조,...


  • Unsupervised Machine Translation Using Monolingual Corpora Only 정리

    Unsupervised Machine Translation Using Monolingual Corpora Only 정리 저자 : Guillaume Lample, Alexis Conneau, Ludovic Denoyer, Marc’Aurelio Ranzato 학회 : ICLR 2018 날짜 : 2017.10.31 (last revised 2018.04.13) 인용 : 120회 논문 : paper 서론 현재까지 deep learning 분야의 많은 연구로 NMT(Neural Machine Translation)의 성능은 가면 갈수록 좋아지고 있다. 특히,...


  • Learning Graph Representations with Embedding Propagation 정리

    Learning Graph Representations with Embedding Propagation 정리 저자 : Alberto García-Durán, Mathias Niepert 학회 : NIPS 2017 날짜 : 2017.10.09 인용 : 29회 논문 : paper 서론 Graph data를 vector에 mapping하는 기법. 기존 기법 : Embedding Propagation (EP) Unsupervised learning. 주변 node 사이에서 message passing을 통해 graph의 vector representations(embeddings)을 학습함....


  • A Convolutional Attention Network for Extreme Summarization of Source Code 정리

    A Convolutional Attention Network for Extreme Summarization of Source Code 정리 저자 : Miltiadis Allamanis, Hao Peng, Charles Sutton 학회 : ICML 2016 날짜 : 2016.02.09 (last revised 2016.02.25) 인용 : 107회 논문 : paper 서론 Attention 모델 새로 만들어지는 output을 input의 어떤 부분을 집중하여 만들 것인지 판단. 각 input마다...


  • Measuring the Tendency of CNNs to Learn Surface Statistical Regularities 정리

    Measuring the Tendency of CNNs to Learn Surface Statistical Regularities 정리 저자 : Jason Jo, Yoshua Bengio 학회 : arXiv 날짜 : 2017.11.30 인용 : 31회 논문 : paper 서론 CNN을 공격(제 기능을 하지 못하도록)하는 여러 방법들. Adversarial example : noise를 섞어서, 인간은 알아볼 수 있는데 기계학습 모델은 알아보지 못하도록...