Inferenza bayesiana

Questa sezione della dispensa fornisce un’introduzione all’inferenza bayesiana, una metodologia statistica per stimare un parametro di interesse \(\theta\) (come la media di una popolazione o il coefficiente di regressione) utilizzando il Teorema di Bayes. L’approccio bayesiano tiene conto sia dei dati osservati che delle conoscenze iniziali per ottenere una stima del parametro \(\theta\) sotto forma di una distribuzione di probabilità, comunemente definita come distribuzione a posteriori.

In questa parte del materiale, esploreremo il processo di aggiornamento bayesiano e le tecniche per sintetizzare la distribuzione a posteriori. Discuteremo le famiglie di distribuzioni coniugate, concentrandoci principalmente sul caso beta-binomiale, poiché consentono una derivazione analitica della distribuzione a posteriori. Esamineremo anche le procedure Monte Carlo a Catena di Markov, in particolare l’algoritmo di Metropolis, che permette di approssimare la distribuzione a posteriori quando non è possibile ottenere una soluzione analitica.

Introdotto il concetto di predizione bayesiana, fondamentale per costruire la distribuzione predittiva a posteriori, discuteremo anche della distribuzione predittiva a priori. Applicheremo l’inferenza bayesiana a diversi contesti, tra cui la stima di una proporzione, il confronto tra due proporzioni, la stima di una media da una distribuzione normale e il confronto tra due medie. Esploreremo inoltre il modello bayesiano di Poisson per le frequenze. Infine, introdurremo il modello gerarchico bayesiano, uno strumento efficace per affrontare situazioni in cui le osservazioni sono organizzate in diversi livelli di incertezza.