본문 바로가기
반응형

베이지안2

Frequentist vs Bayesian (빈도주의자 vs 베이지안) 두 개의 개념은 확률을 해석하는 관점의 차이에 있습니다. Frequentist 확률은 장기적으로 일어나는 사건의 빈도로 주장합니다. 그리고 모수는 고정된 상수라고 가정하고 해석합니다. 장점 Objective Probability Statements: 빈도주의에서의 통계 접근은 긴 시간 동안의 event관찰을 통해서 객관적인 확률 statements를 제공할 수 있습니다. 즉, 결과 해석에 대해서 좀 더 빠르고 비 주관적으로 해석할 수 있습니다. 이는 곧 Robustness와 직결됩니다. Widely used: 베이지안 접근 보다 훨씬 다양한 상황에서 사용이 되며 대부분의 경우 샘플 수가 많기 때문에 더 많은 상황에서 사용이 가능하며 충분히 납득할만한 결과를 기대할 수 있습니다. 단점 Limited fle.. 2023. 4. 21.
[ML] Bayesian Optimization이란 Introduction (도입) 보통 우리가 실험을 하거나 입력을 넣고 결과가 나오는 현상에 대해서 이해를 하기 위해서 입력과 결과 사이의 관계를 파악하고 그리고 관계를 이용하여 공식을 도출하고 싶어 합니다. 너무나도 잘 알려진 공식 F=ma 또한 그렇게 나온 것이니... 이때 입력과 결과 사이에 관계를 표현하는 요소를 보통 Black Box 또는 Black box function이라고 표현합니다. 그리고 Black Box의 특징은 다음과 같습니다. closed form으로 표현되지 않으며 Non-Linear 또는 Non-Convex 하여 수렴이 잘 되지 않는다. 또한 상당히 Complex, Noisy 하다. 마지막으로 데이터를 한번 얻기 위해 또는 evaluate를 하기 위해서 수많은 비용과 시간이 드.. 2021. 12. 10.
반응형