Metodi MCMC Flashcard e Quiz

Modulo 1: Introduzione a MCMC

Il Markov Chain Monte Carlo (MCMC) è un insieme di algoritmi utilizzati per campionare distribuzioni di probabilità complesse. Questi algoritmi sono fondamentali quando il campionamento diretto non è praticabile. MCMC costruisce una catena di Markov che converge alla distribuzione target desiderata.

• Catena di Markov: Un processo stocastico senza memoria, dove il futuro stato dipende solo dallo stato corrente.
• Metodo Monte Carlo: Utilizza il campionamento casuale per calcolare risultati numerici.
• Distribuzione Stazionaria: Rimane invariata nel tempo durante l'evoluzione del processo Markov.

Il periodo di burn-in è la fase iniziale del campionamento MCMC in cui i campioni iniziali vengono scartati per garantire che i campioni successivi rappresentino accuratamente la distribuzione target.

Modulo 2: Concetti Avanzati di MCMC

MCMC gioca un ruolo cruciale nell'inferenza bayesiana, consentendo agli scienziati di stimare le distribuzioni posteriori in presenza di funzioni di verosimiglianza complesse. Questa metodologia è particolarmente utile per i modelli gerarchici, dove esistono diversi livelli di variabilità.

• Distribuzione Posteriore: Rappresenta l'incertezza sui parametri del modello dopo l'integrazione delle credenze precedenti con i nuovi dati.
• Modelli Gerarchici: Modelli statistici che incorporano variabilità a più livelli.
• Macchine per l'apprendimento e MCMC: L'applicabilità dei metodi MCMC nell'apprendimento automatico è significativa, dove le distribuzioni posteriori non possono essere calcolate direttamente.

Modulo 3: Tecniche e sfide in MCMC

Esploreremo diversi tipi di algoritmi MCMC, inclusi l'algoritmo Metropolis-Hastings e il sampling Gibbs. Ognuno di essi ha applicazioni specifiche basate sulla natura delle distribuzioni campionate. MCMC adattivo modifica dinamicamente la distribuzione proposta.

• Algoritmo Metropolis-Hastings: Propone campioni candidati che vengono accettati o rifiutati in base a una probabilità di accettazione rispetto alla distribuzione target.
• Sampling Gibbs: Permette di campionare sequenzialmente le distribuzioni condizionali delle variabili.
• Diagnostica e valutazione della convergenza: Valutare l'affidabilità dei metodi MCMC è cruciale per assicurare la rappresentazione dei campioni.