Total35 Loss Function (손실 함수) Loss Function의 역할 인공지능 학습은 정답과 모델이 예측한 결과의 차이를 최소화 하는 방향으로 진행됩니다. 이때 정답과 예측간의 차이를 계산하는 함수를 Loss function(손실 함수)이라고 합니다. Object function(목적 함수), Cost function(비용 함수)라고 부르기도 합니다. 연구 목적에 따라 다양한 함수를 손실 함수로 사용할 수 있습니다. Pixel-wise Loss 특정 값을 예측하는 Regression(회귀) 모델 또는 Image-to-Image translation 분야에서는 픽셀끼리의 연산을 통한 loss를 많이 사용합니다. 1. 평균 제곱 오차 (Mean Absolute Eorr, MAE) MAE는 정답 값과 예측 값 차이에 대한 절대값의 평균으로 계산됩.. 2022. 7. 8. Activation Function (활성화 함수) Activation Function의 역할 Neural Network는 layer에서 데이터를 연산하고 다음 layer로 값을 전달해주는 방법으로 설계되어있습니다. 이때 값을 그대로 전달하는 것이 아니고, activation function을 통해 변화된 값을 전달하게 됩니다. 가장 시초인 Single layer 퍼셉트론일때는 Step function을 통해 threshold를 넘으면 1, 못넘으면 0으로 전달유무만 결정했습니다. 하지만 Multi layer 뉴럴네트워크로 발전하면서 단순한 전달유무가 아닌 값을 변화시켜 전달하는 함수를 사용하게 되었습니다. 또한 활성함수로는 반드시 선형(linear)함수가 아닌 비선형(non-linear)함수를 사용해야만 합니다. 왜냐하면 네트워크가 선형 수식으로만 이루.. 2022. 6. 28. Dataset 분리 Train / Validation / Test 인공지능 모델을 학습시키기 위해서는 학습하고 싶은 목적에 맞는 데이터셋을 준비해야합니다. 일반적으로 데이터셋 구성이 완료되면, 데이터셋을 크게 3가지 (Train / Validation / Test)로 분리합니다. 각 set이 어떤 역할을 하기에 이렇게 분리하는지 알아보겠습니다. 1. Train Set Train set (학습 데이터)은 인공지능 모델을 구현하는데 실질적으로 사용되는 데이터셋입니다. 설계한 인공지능 모델이 최적의 모델이 되기까지 이 Train set을 여러번 반복해가며 모델을 업데이트하게 됩니다. 이렇게 아무것도 모르는 상태에서 여러번 반복해서 똑같은 것을 가르쳐 이해시키는 것과 유사하기에 learning(학습) 이라고 불리게 되었습니다. 이.. 2022. 6. 20. Arbitrary Style Transfer in Real-time with Adaptive Instance Normalization (2017) 원하는 style로 이미지를 변화시켜주는 Adaptive Instance Normalization (Adain) 기법을 제시한 논문입니다. 이 논문을 기점으로 Image의 style을 변화시켜주는 Style Transfer 관련논문에서 모두 기본으로 사용하는 noramalization 기법으로 자리를 잡습니다. https://openaccess.thecvf.com/content_iccv_2017/html/Huang_Arbitrary_Style_Transfer_ICCV_2017_paper.html Introduction 초창기 Style transfer 논문은 noise 이미지로부터 원하는 content와 style을 가지도록 수백, 수천번의 학습을 통해 진행이 되었습니다. https://hanstar4... 2022. 1. 23. Style Transfer Using Generative Adversarial Networks for Multi-Site MRI Harmonization (2021) 같은 sequence의 MR 이미지라도 촬영 장비에 따라 contrast가 제각각이기 때문에 규격화된 하나의 contrast로 통일시키는 harmonization이 필요합니다. 이 논문은 이미지마다 다른 contrast를 style로 생각하고 규격화된 style로 변화시키는 방법을 제안합니다. 그리고 같은 환자가 대량의 다른 기계에서 동일한 포즈롤 촬영을 할 수 없기 때문에, unsupervised learning으로 연구를 진행했습니다. https://www.biorxiv.org/content/10.1101/2021.03.17.435892v1.abstract Introduction MR image들은 MRI 장비를 통해 촬영된 영상이기 때문에 장비를 만드는 회사, 장비버전, 촬영기사의 세팅 등등에 따라.. 2022. 1. 12. Contrast Limited Adaptive Histogram Equalization (CLAHE) 함수 설명 앞선 포스팅에서 histogram의 분포를 균등하게 만들어줘 contrast를 개선시키는 Histogram Equalization에 대해 설명을 했습니다. https://hanstar4.tistory.com/34 Histogram Equalization (히스토그램 균일화) 함수 설명 이미지의 픽셀값 분포가 특정값에 몰여있다면 그 부분에 대해 눈으로 구별하기 어렵고 이를 contrast가 낮다고 표현합니다. 반면에 픽셀값 분포가 촘촘히 몰려있지 않고 골고루 분포해 hanstar4.tistory.com 하지만 밝은 부분과 어두운 부분이 섞여 있는 이미지 전체에 균일화를 적용하면, 오히려 각 부분의 contrast가 감소할 위험이 있습니다. 위 그림을 보면 모든 영역을 균일하게 적용하다보니 오히려.. 2021. 12. 14. 이전 1 2 3 4 ··· 6 다음 728x90
