[간단리뷰 2주차] Model Quantization Papers

선정논문 Quantization and Training of Neural Networks for Efficient Integer-Arithmetic-Only Inference, 2017 Integer Quantization for Deep Learning Inference: Principles and Empirical Evaluation, 2020 Integer Quantization for Deep Learning Inference: Principles and Empirical Evaluation Part 2.1 – Related Works ICLR 2018, Baidu&NVIDIA, Mixed precision training: 기존 FP32 Datatype이 아닌 FP16에서 Training할 수 있도록 하는 Technique 2011, …

[간단리뷰 1주차] MobileNetV2: Inverted Residuals and Linear Bottlenecks

원문: https://arxiv.org/abs/1801.04381 참고자료: 논문, 블로그 대분야: Optimization 소분야: Model Optimization, TBD … 제안 기법 TBD 키워드: TBD MobileNet V1 돌아보기 (간단요약) 문제제기: Robotics, Self-driving car, Augmented Reality 등 실시간 처리가 필요한 분야에서는 낮은 컴퓨팅 성능으로 정확한 결과를 요구함 제안사항: 경량화 CNN과 speed-accuracy tradeoff를 조절하는 Hyperparameter 제안 Depthwise Separable-Convolution width/resolution multiplier 결과 1 – Depthwise Separable …

[Tutorial] Building lastest raspberry pi kernel for 64-bit Ubuntu (20.10)

Original post (Raspberry Pi forum): https://www.raspberrypi.org/forums/viewtopic.php?t=284556 Original poster: sjevtic One of the great parts about running Ubuntu is that just about all the Ubuntu-isms you’ve learned for other platforms work here too. Start with these links: https://wiki.ubuntu.com/Kernel/BuildYourOwnKernelhttps://wiki.ubuntu.com/KernelTeam/ARMK … ossCompilehttps://wiki.ubuntu.com/KernelTeam/Kern … k_failureshttps://askubuntu.com/questions/500095/ … er-versionhttps://bugs.launchpad.net/ubuntu/+sour … ug/1701756 What follows isn’t very polished, since came out of my …

[베이스리뷰 2주차] 간단정리 – Pyramid Attention Network

원문: https://arxiv.org/abs/1805.10180 참고자료: 논문요약 대분야: Image Segmentation 소분야: Semantic Segmentation, Network Hierarchy 키워드: PAN (Pyramid Attention Network), GAU (Global Attention Upsample) 문제점 [1] 공간해상도 손실 (Spatial resolution loss) 작은 객체 부분 Segmentation 정확도가 낮습니다. 다중 스케일 상에서 객체들의 카테고리를 결정하는데 문제가 있어 SPP나 ASPP를 사용하게 됩니다. 다만 이렇게 하면, 그리드 모양의 Artifact를 만들어 버린다는 단점이 …

[베이스리뷰 2주차] 간단정리 – SPP (Spatial Pyramid Pooling)

넘어온 논문: Pyramid Attention Network for Semantic Segmentation 참고 블로그: 갈아먹는 Object Detection SPP: Fast R-CNN에서 참고한 개념. SPPNet에서 제안 요약: Conv Layer에서는 사실 Resolution이 문제되지 않으나, 마지막 FC Layer의 입력 Size는 고정입니다. 이로 인해 Input Image는 무조건 같은 크기로 Resizing해서 모델에 입력해야하는 제약 조건이 생겨나게 되었는데, SPP는 이를 같은 크기의 Feature로 조절해주는 Pooling을 제안합니다. …

[베이스리뷰 1주차] 간단정리 – CRF(Conditional Random Fields)

참고 블로그 http://blog.echen.me/2012/01/03/introduction-to-conditional-random-fields/ https://vision0814.tistory.com/193 CRF란? 영상보다는 자연어처리 분야에서 많이 사용되는 통계적 모델링 기법입니다. 사진 하나의 행동을 분류할 때, 하나의 행동 Sequence만을 보고 판단하지 않고 사진을 찍은 순간의 이전/이후를 참조하여 지금 상태를 결정합니다.

[베이스리뷰 1주차] DeepLab V1 “Semantic Image Segmentation With Deep Convolutional Nets And Fully Connected CRFs”

원문: https://arxiv.org/abs/1412.7062 참고자료: 라온피플 블로그 대분야: Image Segmentation 소분야: Semantic Segmentation, Statistical Learning 제안 기법 CRF(Conditional Random Field)를 Convolutional network에 적용하여 Segment boundary를 localize하는 기법 제안 공간적 정보 손실을 최소화하기 위한 Atrous Convolution 기법 제안 → Dilated Convolution으로 이어짐 키워드: Conditional Random Field, Atrous Convolution Preliminary Knowledges Conditional Random Field: Problems & Proposal Single downsampling …