KUBIG 2023-1 활동 블로그

본 게시물은 KAIST 문일철 교수님의 기계학습 유튜브 강좌를 참고하여 만들었습니다. https://youtu.be/iYvC1tGZ7ZI Week1. Variational Inference : 12~ 18 Variational Inference Week12. Dirichlet Distribution and Exponential Family 목적: LDA에 대해 VI 유도를 위해 Dirichlet Distribution(이하 D.D)의 특성과 pdf를 아는 것이 중요 LDA: Latent Dirichlet Allocation, 토픽 분류 모델 Dirichlet distribution ✔️DD가 어디서 쓰이냐!! 𝜽의 pdf는 DD에서 샘플링된 것으로 나온 𝛼에 기반 𝜽와 𝛼 는 k-size vector ✔..

심화 스터디/수리적 심화 머신러닝 & 생성모델 스터디 2023. 5. 13. 10:50

심화 스터디/수리적 심화 머신러닝 & 생성모델 스터디 2023. 3. 22. 00:34

1. Maximum Likelihood Estimator에 대한 이해 by Binomial Distribution

심화 스터디/수리적 심화 머신러닝 & 생성모델 스터디 2023. 3. 22. 00:25

1주차에서 배웠던 내용들에서 모든 데이터는 독립적인 시행들이었다. 그러나 데이터들이 서로 독립이 아닐 때가 존재한다. 예를 들어 주가데이터 같은 경우, 전날 데이터가 그 다음 날 데이터에 영향을 끼치기 마련이다. 우리는 Latent State Variable(잠재변수) Z1, Z2, Z3, ..., ZT로 데이터 간 관계를 찾고자 한다. (각 아래첨자는 특정 시간 1≤t≤T 에 대한 인덱스를 의미한다.) 잠재변수는 우리에게 보여지지는 않지만 X1, X2, X3... 의 관계를 파악하기 위해 필요한 값이다. 각각의 데이터 X1, X2, X3,...XT은 우리에게 보여지는 관찰값이며, 잠재변수들을 통해 유추할 수 있는 값이다. 1,2,3는 특정한 시간 1또한 π는 Initial State Probabilit..

심화 스터디/수리적 심화 머신러닝 & 생성모델 스터디 2023. 3. 20. 23:15

00. Supervised vs Unsupervised Learning Clustering에 대해 설명하기 전에, Clustering이 속해있는 unsupervised learning(비지도학습)과 그와 다른 Supervised learning(지도학습)에 대해 알아보자. 위 그림의 지도학습(Supervised learning)은 데이터에 정답(label)이 존재한다. 따라서 우리는 이러한 정답을 기준으로 데이터의 피쳐에 대해 분석하거나, 새로운 데이터에 대한 예측을 하곤한다. 그러나 비지도 학습(unsupervised learning)의 경우, 정답이 존재하지 않는다. 이러한 데이터를 기반으로, 1. Clustering 2. latent factor 3. gragh structure 에 대해 탐구한다...

심화 스터디/수리적 심화 머신러닝 & 생성모델 스터디 2023. 3. 12. 20:52