통계95 Multi-class AdaBoost 이번 포스팅은 기존 이진(Binary Class) 분류를 위한 AdaBoost 알고리즘을 Multi class AdaBoost로 확장시킨 Zhu, H. Zou, S. Rosset, T. Hastie의 논문 "Multi-class AdaBoost"를 리뷰하려고 한다. - 목차 - 1. Introduction 2. Statistical Justification 3. Numerical Results 4. Discussion 본 포스팅에서는 수식을 포함하고 있습니다. 티스토리 피드에서는 수식이 제대로 표시되지 않을 수 있으니 PC 웹 브라우저 또는 모바일 웹 브라우저에서 보시기 바랍니다. 1. Introduction 부스팅(Boosting)은 2 클래스 분류 문제에서 만큼은 아주 성공적인 알고리즘이었다. 반면 .. 2022. 5. 3. 14. 클러스터링(군집화) 평가지표 Silhouette(실루엣) 지수(계수)에 대해서 알아보자 with Python 이번 포스팅에서는 클러스터링(군집화)이 잘되었는지 정량적으로 확인할 수 있는 Silhouette(실루엣) 지수(계수)에 대해서 알아보고 파이썬(Python)으로 구현하는 방법에 대해서 알아보려고 한다. 또한 실제 샘플용 데이터를 이용하여 클러스터링(군집화) 결과를 평가해보려고 한다. 클러스터링(군집화) 결과를 평가할 수 있는 또 다른 유명한 지표로 Dunn Index가 있는데 이는 이전 포스팅에서 소개했는데 여기에 클러스터링(군집화)에 대한 필요성도 같이 설명하고 있으니 읽고 오면 좋다. 이번 포스팅에서 다룰 내용은 다음과 같다. 1. Silhouette(실루엣) 지수(계수) 란? 2. Silhouette(실루엣) 지수(계수) 파이썬(Python) 구현 이 곳은 꽁냥이가 머신러닝을 공부한 내용을 정리하는.. 2022. 5. 1. 13. Box-Cox Transformation(변환)에 대해서 알아보자 with Python 이번 포스팅에서는 Box-Cox Transformation(변환)에 대한 개념과 파이썬(Python)을 이용하여 어떻게 구현하는지 알아본다. 그리고 실제 데이터에 적용하여 Box - Cox Transformation(변환)이 어떻게 사용되는지 살펴보자. 여기서 다룰 내용은 다음과 같다. 1. Box-Cox Transformation(변환)이란? 2. Box-Cox Transformation(변환) 모수 추정 3. Box-Cox Transformation(변환) 장단점 4. 파이썬(Python) 구현 5. 실제 데이터 적용 이 곳은 꽁냥이가 머신러닝을 공부한 내용을 정리하는 곳입니다. 이 포스팅에서는 수식을 포함하고 있습니다. 티스토리 피드에서는 수식이 제대로 표시되지 않을 수 있으니 웹브라우저 또는 모바.. 2022. 5. 1. Profile Likelihood 란 무엇인가?! 이번 포스팅은 Profile Likelihood란 무엇인지 알아보려고 한다. 여기서 다루는 내용은 다음과 같다. 1. Profile Likelihood 추정법 2. Profile Likelihood 예제 본 포스팅에서는 수식을 포함하고 있습니다. 티스토리 피드에서는 수식이 제대로 표시되지 않을 수 있으니 PC 웹 브라우저 또는 모바일 웹 브라우저에서 보시기 바랍니다. 1. Profile Likelihood 추정법 - Profile Likelihood 탄생 배경 - 먼저 표본 $X_i, i=1, \ldots, n$이 독립이고 동일한 확률 밀도 함수 $f_{\theta}$로부터 추출되었다고 하자. 즉, $$X_i \sim \text{ i.i.d } f_{\theta}$$ 이다. 우리의 목표는 데이터를 이용하.. 2022. 4. 30. A Method for Computing Profile-Likelihood-Based Confidence Intervals 개인적으로 Profile Likelihood(PL)를 공부하다가 PL을 이용한 신뢰구간을 어떻게 계산하는지 궁금해서 찾아본 논문이 'A Method for Computing Profile-Likelihood-Based Confidence Intervals'이었다. 이번 포스팅에서는 이 논문을 읽고 요약한 내용을 정리하려고 한다. 1. 'Profile-Likelihood-Based' Confidence Intervals 2. Basis of the Algorithm 3. Performance in Simulations 4. Examples 5. Discussion 본 포스팅에서는 수식을 포함하고 있습니다. 티스토리 피드에서는 수식이 제대로 표시되지 않을 수 있으니 PC 웹 브라우저 또는 모바일 웹 브라우저.. 2022. 4. 30. 12. Gaussian Mixture Model(가우시안 혼합 모형) 클러스터링(군집 분석)에 대해서 알아보자 with Python 이번 포스팅에서는 K-Means 클러스터링과 더불어 군집 분석에서 자주 사용되는 Gaussian Mixture Model 클러스터링(가우시안 혼합 모형 군집화)에 대해서 알아보고 파이썬(Python)으로 구현해보고자 한다. 1. Gaussian Mixture Model(가우시안 혼합 모형) 클러스터링이란? 2. Gaussian Mixture Model(가우시안 혼합 모형) 클러스터링 알고리즘 3. Gaussian Mixture Model(가우시안 혼합 모형) 클러스터링 장단점 4. Gaussian Mixture Model(가우시안 혼합 모형) 파이썬 구현 본 포스팅에서는 수식을 포함하고 있습니다. 티스토리 피드에서는 수식이 제대로 표시되지 않을 수 있으니 PC 웹 브라우저 또는 모바일 웹 브라우저에서 보.. 2022. 4. 25. 12. 클러스터링(군집화) 평가 지표 Dunn Index with Python 이번 포스팅에서는 클러스터링(군집화)이 잘되었는지 정량적으로 확인할 수 있는 평가 지표로 Dunn Index를 소개하려고 한다. 또한 Dunn Index를 파이썬(Python)으로 구현해보고자 한다. 1. 클러스터링(군집화) 평가의 필요성 2. Dunn Index 이 곳은 꽁냥이가 머신러닝을 공부한 내용을 정리하는 곳입니다. 이 포스팅에서는 수식을 포함하고 있습니다. 티스토리 피드에서는 수식이 제대로 표시되지 않을 수 있으니 웹브라우저 또는 모바일 웹브라우저로 보시길 바랍니다. 1. 클러스터링(군집화) 평가의 필요성 왜 클러스터링(군집화) 결과를 평가해야 할까? 1) 클러스터링(군집화) 알고리즘의 성능을 비교하기 위해서이다. 여러 다른 클러스터링 알고리즘을 이용하여 클러스터링 결과를 얻었다고 하자. 결과.. 2022. 4. 22. 11. K-Means 클러스터링(Clustering, 군집화)에 대해서 알아보자 with Python 이번 포스팅에서는 클러스터링(Clustering, 군집화)의 대표적인 알고리즘 중에 하나로 K-Means 클러스터링에 대해서 알아보려고 한다. 여기서 다루는 내용은 다음과 같다. 1. K-Means 클러스터링(Clustering, 군집화)이란? 2. K-Means 클러스터링(Clustering, 군집화) 알고리즘 3. K-Means 클러스터링(Clustering, 군집화) 장단점 4. K-Means 클러스터링(Clustering, 군집화) 파이썬 구현 본 포스팅에서는 수식을 포함하고 있습니다. 티스토리 피드에서는 수식이 제대로 표시되지 않을 수 있으니 PC 웹 브라우저 또는 모바일 웹 브라우저에서 보시기 바랍니다. 1. K-Means 클러스터링(Clustering, 군집화)이란? - 정의 - K-Mean.. 2022. 4. 21. [시계열 분석] 10. Phillips-Perron Test(검정) with Python 이번 포스팅은 단위근 검정의 한 방법으로 (Augmented) Dickey-Fuller(ADF)와 쌍벽을 이루는 Phillips-Perron Test(검정)에 대해서 알아본다. 그리고 파이썬을 이용하여 샘플 데이터를 통한 예제도 알아보고자 한다. 이번 포스팅에서 다룰 내용은 다음과 같다. 1. Phillips-Perron Test(검정) 2. Python 예제 - Phillips-Perron Test(검정) 본 포스팅에서는 수식을 포함하고 있습니다. 티스토리 피드에서는 수식이 제대로 표시되지 않을 수 있으니 PC 웹 브라우저 또는 모바일 웹 브라우저에서 보시기 바랍니다. 1. Phillips-Perron Test(검정) 1.1 정의 다음과 같은 시계열이 있다고 하자. $$\Delta X_t = c_t +.. 2022. 4. 18. [논문 리뷰] 6. Testing for A Unit Root in Time Series Regression 단위근 검정으로 (Augmented) Dickey-Fuller Test와 더불어 유명한 Phillips-Perron Test 검정이 있다. 이 검정 방법이 궁금해서 해당 논문을 읽어보고 그 내용을 정리했다. 이번 포스팅에서는 Phillips-Perron Test 검정의 바탕이 되는 논문 "Testing for A Unit Root in Time Series Regression"을 리뷰하고자 한다. 본 포스팅에서는 수식을 포함하고 있습니다. 티스토리 피드에서는 수식이 제대로 표시되지 않을 수 있으니 PC 웹 브라우저 또는 모바일 웹 브라우저에서 보시기 바랍니다. 목차는 다음과 같다. 0. Summary 1. Introduction 2. Preliminaries 3. The Models and Estimat.. 2022. 4. 17. 이전 1 ··· 3 4 5 6 7 8 9 10 다음
