본문 바로가기

논문리뷰

(5)
MixMatch: A Holistic Approach to Semi-Supervised Learning [NIPS 2019] 이 글은 MixMatch: A Holistic Approach to Semi-Supervised Learning논문을 참고하여 정리하였음을 먼저 밝힙니다. 논문에서 사용한 방법론을 간단하게 설명하고, pytorch를 이용하여 코드를 구현한 후 추가적으로 설명드리겠습니다. 혹시 제가 잘못 알고 있는 점이나 보안할 점이 있다면 댓글 부탁드립니다. 0. Summary SSL(Semi Supervised Learning)은 기존 supervised learning에 unlabeled data를 이용하여 보다 분류 성능을 향상시키고 모델을 robust하게 만드는 기법입니다. SSL 관련 연구에서는 Loss function에서 다음의 세 가지의 문제를 항상 고려합니다. 1. Entropy minimization :..
NGBoost: Natural Gradient Boosting for Probabilistic Prediction [ICML 2020] 이 글은 NGBoost: Natural Gradient Boosting for Probabilistic Prediction논문을 참고하여 정리하였음을 먼저 밝힙니다. 논문에서 사용한 방법론을 간단하게 설명하고, 라이브러리를 이용하여 코드를 구현한 후 추가적으로 설명드리겠습니다. 혹시 제가 잘못 알고 있는 점이나 보안할 점이 있다면 댓글 부탁드립니다. 0. Summary 기존 regression 모델은 점 추정치를 맞추는데 초점을 두었습니다. 이 논문에서는 probabilistic regression 모델을 사용하여 공분산을 조건부로 사용한 결과 공간에 대한 전체 확률 분포를 찾고자 합니다. 즉, 위의 그림과 같이 각 x 지점에서의 각각 다른 평균과 분산을 추정하는 것이 목표입니다. 위와 같은 문제를 해결..
Unsupervised Anomaly Detection withGenerative Adversarial Networks to GuideMarker Discovery (AnoGAN) [IPMI 2017] 이 글은 Unsupervised Anomaly Detection withGenerative Adversarial Networks to GuideMarker Discovery (AnoGAN)논문을 참고하여 정리하였음을 먼저 밝힙니다. 논문에서 사용한 방법론을 간단하게 설명하고, pytorch 라이브러리를 이용하여 코드를 구현한 후 추가적으로 설명드리겠습니다. 혹시 제가 잘못 알고 있는 점이나 보안할 점이 있다면 댓글 부탁드립니다. 0. Summary 본 논문은 의학 도메인의 가장 큰 문제인 병리 데이터 부족 문제로 인한 지도 학습의 한계점에 해결하기 위해 DCGAN과 Anomaly detection을 같이 활용할 수 있는 방법론을 사용하였습니다. 즉 AnoGAN이라는 방법론을 제안한 페이퍼입니다. 1. U..
An Architecture Combining Convolutional Neural Network (CNN) and Support Vector Machine (SVM) for Image Classification [CoRR 2017] 이 글은 Conditional Image Generation with PixelCNN DecodersAn Architecture Combining Convolutional Neural Network (CNN) and Support Vector Machine (SVM) for Image Classification 논문을 참고하여 정리하였음을 먼저 밝힙니다. 논문에서 사용한 방법론을 간단하게 설명하고, pytorch 라이브러리를 이용하여 코드를 구현한 후 추가적으로 설명드리겠습니다. 혹시 제가 잘못 알고 있는 점이나 보안할 점이 있다면 댓글 부탁드립니다. 0. Summary 일반적으로 Classification에서 사용하는 CNN 아키텍쳐는 FC(Fully connected layer)이후에 Softmax ..
Conditional Image Generation with PixelCNN Decoders [2016 NIPS] 이 글은 Conditional Image Generation with PixelCNN Decoders 논문을 참고하여 정리하였음을 먼저 밝힙니다. 논문에서 사용한 방법론을 간단하게 설명하고, pytorch 라이브러리를 이용하여 코드를 구현한 후 추가적으로 설명드리겠습니다. 혹시 제가 잘못 알고 있는 점이나 보안할 점이 있다면 댓글 부탁드립니다. 0. Summary Image autoencoder를 Conditional PixelCNN과 Gated Convolutional layer를 사용하여 구현하였으며, PixelCNN의 가장 큰 장점은 computational cost가 상대적으로 매우 낮아서 매우 빠르게 학습할 수 있습니다. 1. Gated pixelCNN 우선 PixelCNN이 무엇인지 말씀드리면..