본문 바로가기

Deep Learning

(37)
[2020.11] KeepAugment: A Simple Information-Preserving Data Augmentation Approach To be updated Conference: CVPR 2021 URL: https://arxiv.org/abs/2011.11778 Code: https://github.com/clovaai/rexnet
[2020.07] Rethinking Channel Dimensions for Efficient Model Design 기존에 MobileNet V2 이후로, Efficient Neural Network를 디자인함에 있어서 각 Layer에 Channel Configuration을 FLOPs constraint를 만족하는 것에 우선순위를 두어 Design을 하는 것에 초점을 두었습니다 (i.e., 앞 Layer에서는 Channel을 적게, 뒤 Layer에서는 Channel을 굉장히 많이 사용). 본 논문에서는 각 Layer에서의 Output Feature의 Rank 분석에 기반하여 각 Layer 또는 Block의 Channel 수를 해당 Block의 Index에 Linear하게 Parameterize (i.e, $a*f(i) + b$, 여기서 a와 b는 Learning Parameter) 하는 방법을 제안하였습니다. 여기서..
[2020.11] GIRAFFE: Representing Scenes As Compositional Generative Neural Feature Fields 2D 영상 기반의 Photorealistic Image Synthesis는 최근 고화질 영상까지 실제와 같이 생성해 낼 수 있는 수준에 이르렀습니다. 그리고 최근에는 Disentangle Learning과 Controllable 개념까지 추가되어, 특정 Object나 Background의 특성을 변경해가며 (e.g, 머리의 색을 Continous하게 변경) 영상을 생성할 수 있는 수준을 보여주고 있습니다. 하지만, 이는 오로지 학습에 사용된 2D 영상 기준의 Dataset Distribution에 기반하여 그 Latent Space에서 약간의 변화를 준 (해당되는 Image Space에서는 생성된 영상으로 Mapping) 정도의 Synthetic 영상을 생성하는 것이기에, 실제 3D 세상에서 2D 세상으..
[2021.04] Rethinking and Improving the Robustness of Image Style Transfer Neural Style Transfer에 있어서, Pretrained된 VGG Network는 영상의 Visual Style을 Capture하는데 있어서 꽤나 좋은 성능을 보여주었습니다. 하지만 이를 ResNet 계열의 Network에서 추출된 Feature로 Style Transfer를 할 경우 잘 동작하지 않는 경우가 있는데, 이 논문에서는 실험을 통해 Residual Connection이 주로 낮은 Entropy를 가지는, Large Peak을 가지는 Feature Map을 만들고, 이러한 특성이 Feature간 Correlation에 기반한 Gram Matrix와 그에 기반한 Style Transfer에는 잘 맞지 않는 다는 것을 밝혀냈습니다. 이를 개선하기 위해, Feature Map의 Entr..
[2021.06] HR-NAS: Searching Efficient High-Resolution Neural Architectures With Lightweight Transformers Image 단위의 Prediction을 하는 Classification Task와는 달리, Pixel 단위로 더 Finer한 Prediction을 하는 문제를 Dense Prediction이라고 합니다. Dense Prediction의 대표적인 예로는 Image Segmentation과 Pose Estimation 등이 있습니다. 본 논문은 Dense Prediction 문제를 푸는 Neural Architecture Search (NAS) 접근이 많이 없다는 문제 의식에서 시작을 합니다. Image Segmentation과 같은 Dense Prediction Task들은 Fine Detail의 정보를 담을 수 있는 High-Resolution (HR) Representation과 함께 Local Fea..
[2017.06] Multi-Agent Actor-Critic for Mixed Cooperative-Competitive Environments We explore deep reinforcement learning methods for multi-agent domains. We begin by analyzing the difficulty of traditional algorithms in the multi-agent case: Q-learning is challenged by an inherent non-stationarity of the environment, while policy gradient suffers from a variance that increases as the number of agents grows. We then present an adaptation of actor-critic methods that considers ..
[2018.05] Learning Attentional Communication for Multi-Agent Cooperation Communication could potentially be an effective way for multi-agent cooperation. However, information sharing among all agents or in predefined communication architectures that existing methods adopt can be problematic. When there is a large number of agents, agents cannot differentiate valuable information that helps cooperative decision-making from globally shared information. Therefore, commu..
[2018.03] Learning to Adapt in Dynamic, Real-World Environments Through Meta-Reinforcement Learning This work proposes to learn how to quickly and effectively adapt online to new tasks. To enable sample-efficient learning, we consider learning online adaptation in the context of model-based reinforcement learning. Our approach uses meta-learning to train a dynamics model prior such that, when combined with recent data, this prior can be rapidly adapted to the local context. URL: arxiv.org/abs/..