20.1.1 Simulazione

Tenendo a mente quanto detto nella sezione precedente, abbandoniamo l’idea che i nostri campioni siano in grado di raggiungere numerosità dell’ordine di grandezza delle decine o delle centinaia di migliaia di osservazioni. Prendiamo invece in esame una situazione più vicina a quella in cui gli psicologi si trovano ad operare. Consideriamo, quale esempio, un’ampiezza campionaria di \(n = 5\). Come in precedenza, possiamo simulare questo esperimento casuale in R, usando la funzione rnorm():

iq3 <- round(rnorm(n = 5, mean = 100, sd = 15))
iq3
#> [1]  79 104  63 100 109

Il QI medio in questo campione risulta pari a 91. Non sorprende che questo risultato sia molto meno accurato rispetto all’esperimento casuale precedente.

Immaginiamo ora di replicare l’esperimento; immaginiamo cioè di ripetere nuovamente la procedura descritta sopra: estraiamo un nuovo campione casuale e misuriamo il QI di 5 persone. Ancora una volta utilizziamo R per effettuare la simulazione:

iq4 <- round(rnorm(n = 5, mean = 100, sd = 15))
iq4
#> [1] 117  73  96  96  96
mean(iq4)
#> [1] 95.6

In quest altro campione casuale il QI medio è 95.6. Procediamo in questo modo e simuliamo l’esperimento casuale dieci volte in maniera tale da ottenere i risultati seguenti.

Iniziamo creando una lista di 10 campioni di ampiezza \(n = 5\).

set.seed(123)
sample_list <- list()
for (i in 1:10) {
  sample_list[[i]] <- round(rnorm(5, 100, 15))
}
sample_list[[1]]
#> [1]  92  97 123 101 102
sample_list[[2]]
#> [1] 126 107  81  90  93

Trasformiamo la lista in un data.frame.

df <- data.frame(matrix(unlist(sample_list), nrow=length(sample_list), byrow=TRUE))
df
#>     X1  X2  X3  X4  X5
#> 1   92  97 123 101 102
#> 2  126 107  81  90  93
#> 3  118 105 106 102  92
#> 4  127 107  71 111  93
#> 5   84  97  85  89  91
#> 6   75 113 102  83 119
#> 7  106  96 113 113 112
#> 8  110 108  99  95  94
#> 9   90  97  81 133 118
#> 10  83  94  93 112  99

Le medie di ciascuno dei 10 campioni di ampiezza \(n = 5\) sono:

rowMeans(df)
#>  [1] 103.0  99.4 104.6 101.8  89.2  98.4 108.0 101.2 103.8  96.2

Poniamoci ora il problema di replicare tante volte la procedura che ci porta a calcolare la media dei valori del QI di cinque persone prese a caso. Per ciascuna replica dell’esperimento casuale salviamo il valore della media campionaria. Così facendo, generiamo tanti valori, ciascuno dei quali corrisponde alla media di un campione casuale di 5 osservazioni. Usando i poteri magici di R, possiamo eseguire una tale simulazione mediante le seguenti istruzioni:

n_samples <- 10000
sample_size <- 5
sample_means <- rep(NA, n_samples)

for (i in 1:n_samples) {
    y <- round(rnorm(5, 100, 15))
    sample_means[i] <- mean(y)
}

Nella figura 20.1 sono riportati i risultati della simulazione. Come illustrato dalla figura, la media dei 5 punteggi del QI è solitamente compresa tra 80 e 120. Ma il risultato più importante di questa simulazione è quello che ci fa capire che, se ripetiamo l’esperimento casuale più e più volte, otteniamo una distribuzione di medie campionarie. Un tale distribuzione ha un nome speciale in statistica: si chiama distribuzione campionaria della media.

data.frame(sample_means) %>% 
  ggplot(aes(x = sample_means)) +
  geom_histogram(aes(y = ..density..)) +
  labs(
    x = "Media del quoziente d'intelligenza in campioni di ampiezza n = 5",
    y = "Densità"
  )
#> `stat_bin()` using `bins = 30`. Pick better value with `binwidth`.

Figura 20.1: Istogramma della distribuzione delle medie dei punteggi del QI calcolate su 10000 campioni casuali di ampiezza \(n=5\).

La “distribuzione campionaria” è un importante concetto della statistica ed è fondamentale per comprendere il comportamento dei piccoli campioni. Quando abbiamo eseguito per la prima volta l’esperimento casuale relativo all’estrazione di cinque punteggi IQ dalla popolazione, abbiamo trovato una media campionaria pari a 101.42. Quello che impariamo dalla distribuzione campionaria delle medie di campioni di ampiezza \(n = 5\) della figura 20.1 è che un tale esperimento casuale è poco accurato. Infatti, la distribuzione campionaria della media dei campioni di ampiezza \(n=5\) ci fa capire che, se ripetendo un tale esperimento casuale tante volte, otteniamo delle medie campionarie con valori che possono essere compresi nell’intervallo tra 80 e 120. In altre parole, la distribuzione campionaria della media di campioni di ampiezza 5 ci dice che il risultato dell’esperimento casuale (ovvero, la media osservata in un singolo campione) varia di molto tra i diversi campioni che possono essere estratti dalla popolazione. Di conseguenza, se il nostro obiettivo è quello di stimare la media della popolazione, allora non dobbiamo fidarci troppo del risultato ottenuto per caso da un singolo campione di numerosità \(n\) = 5. Nella discussione seguente mostreremo come sia possibile utilizzare la stima della distribuzione campionaria per descrivere le proprietà statistiche delle stime (ovvero, il grado di incertezza che è associato alle stime che otteniamo).

20.2.1 Valore atteso della media campionaria

Qual è la media (valore atteso) della distribuzione campionaria della media? È facile mostrare che \(\mu_{\bar{X}_n}\) coincide con il valore medio \(\mu\) della popolazione da cui i campioni di ampiezza \(n\) sono stati estratti.

20.2.2 Varianza della media campionaria

Qual è la varianza della distribuzione campionaria della media? Anche in questo caso si può facilmente mostrare come la varianza della distribuzione delle medie campionarie è legata alla varianza \(\sigma^2\) della popolazione dalla seguente relazione:

\[ var(\bar{X}_n) = \frac{\sigma^2}{n}, \tag{20.1} \] dove \(n\) è la numerosità dei campioni casuali.

Prima di presentare la dimostrazione dell’eq. (20.1) è necessario ricordare la seguente proprietà della varianza: se una variabile aleatoria \(X\) viene moltiplicata per una costante \(a\), la varianza della variabile aleatoria \(aX\) diventa \[ var(a X) = a^2 var(X). \] Possiamo ora comprendere la dimostrazione seguente.

I due risultati che abbiamo ottenuto sopra sono molto importanti. Il primo ci dice che la media campionaria è uno stimatore corretto (ovvero, non distorto) della media della popolazione. Il secondo quantifica l’errore medio che compiamo usando usiamo la media del campione quale stima della media della popolazione.

20.2.3 Errore standard

La radice quadrata della varianza della distribuzione campionaria della media si chiama errore standard della media campionaria. Questa è una quantità molto importante perché ci informa sul livello di incertezza della nostra stima fornendoci un valore che ha la stessa unità di misura delle osservazioni. Se vogliamo stimare la media della popolazione utilizzando la media del campione quale stimatore ci possiamo aspettare di compiere un errore medio pari a \(\frac{\hat{\sigma}_n}{\sqrt{n}},\) laddove \(\hat{\sigma}_n\) è la deviazione standard del campione utilizzata quale stima della deviazione standard della popolazione.

20.2.4 Distribuzioni delle statistiche campionarie

Qualunque statistica campionaria ha una sua distribuzione teorica. Consideriamo, ad esempio, il massimo del campione quale statistica campionaria di interesse. Ripetiamo la simulazione che abbiamo descritto sopra calcolando, questa volta, il valore massimo del campione.

set.seed(123)
n_samples <- 10000
sample_size <- 5
sample_max <- rep(NA, n_samples)

for (i in 1:n_samples) {
    y <- round(rnorm(5, 100, 15))
    sample_max[i] <- max(y)
}

I risultati di questa simulazione sono riportati nella figura 20.2.

data.frame(sample_max) %>% 
  ggplot(aes(x = sample_max)) +
  geom_histogram(aes(y = ..density..)) +
  labs(
    x = "Valore massimo del QI in campioni di ampiezza n = 5",
    y = "Densità"
  )
#> `stat_bin()` using `bins = 30`. Pick better value with `binwidth`.

Figura 20.2: Istogramma della distribuzione del QI massimo osservato in ciascun campione casuali di ampiezza \(n=5\). Per creare la figura sono stati considerati 10000 campioni casuali.

Non dovrebbe sorprenderci che, prendendo 5 persone a caso per poi selezionare la persona con il punteggio QI più alto, otteniamo una distribuzione che, rispetto alla distribuzione della figura 20.2, è traslata verso destra. Nella presente simulazione, la distribuzione del QI massimo di un campione casuale di ampiezza \(n = 5\) si situa approssimativamente nell’intervallo compreso tra 90 e 150.

20.4.1 Parametri di un modello statistico

Nel gergo statistico, i parametri sono i valori sconosciuti che determinano un modello statistico. Si consideri il modello statistico \(Y \sim \mathcal{N}(\mu, \sigma)\). Il modello statistico precedente ci dice che \(Y\) è una v.a. distribuita come una normale di parametri \(\mu\) e \(\sigma\). Supponiamo che la \(Y\) sia il QI. In questo caso è facile capire cosa sono i parametri \(\mu\) e \(\sigma\). Quello del QI, infatti, è un caso particolare perché il test di intelligenza Wechsler Adult Intelligence Scale (WAIS) è stato costruito in modo tale da produrre dei dati che si distribuiscono in un modo noto: il QI segue la distribuzione normale di parametri \(\mu = 100\) e \(\sigma = 15\). In generale, però, i parametri di un modello statistico sono sconosciuti.

20.4.2 L’incertezza della stima

Dato che i parametri sono, in genere, sconosciuti, è necessario stimarli. Non è sufficiente, però, ottenere una stima puntuale di un parametro. È anche necessario quantificare l’incertezza della stima. L’incertezza della stima viene descritta dall’approccio frequentista nei termini di un intervallo di confidenza. L’intervallo di confidenza si costruisce mediante l’errore standard.

L’errore standard è la deviazione standard stimata della stima di un parametro e quantifica il grado della nostra incertezza sulla quantità di interesse. Chiariamo questa idea facendo riferimento alla la figura 20.1. Tale figura riporta la distribuzione di un grande numero di medie campionarie, laddove la media di ciascun campione può essere considerata come una stima della media \(\mu\) della popolazione. La deviazione standard di queste stime, chiamata errore standard, ci fornisce una misura dell’incertezza della nostra stima. In altre parole, quantifica la variabilità dei valori delle stime del parametro \(\mu\) che sono calcolate sulla base di campioni diversi. Come abbiamo visto nella simulazione del TLC, l’errore standard ha la proprietà di diminuire all’aumentare della dimensione del campione.

L’errore standard viene utilizzato per calcolare l’intervallo di confidenza. L’intervallo di confidenza rappresenta un intervallo di valori di un parametro o quantità di interesse che sono approssimativamente coerenti con i dati, data la distribuzione campionaria presunta. All’intervallo di confidenza possiamo dunque assegnare la seguente interpretazione. Supponiamo che il modello statistico sia corretto e supponiamo di ripetere tante volte il processo di campionamento. Se per ogni campione estratto dalla popolazione calcoliamo una stima del parametro, allora gli intervalli di confidenza del 50% e del 95% includeranno il vero valore del parametro il 50% e il 95% delle volte.

Sotto l’ipotesi che la distribuzione campionaria segua la distribuzione normale, per campioni di grandi dimensioni l’intervallo di confidenza al 95% si costruisce nel modo seguente: \[ \text{stima del parametro} \pm 2 \text{ errori standard.} \] Dalla distribuzione normale sappiamo che una stima del parametro \(\pm\) 1 errore standard corrisponde ad un intervallo del 68% e una stima del parametro \(\pm\) \(\frac{2}{3}\) di un errore standard corrisponde ad un intervallo del 50%. Un intervallo del 50% è particolarmente facile da interpretare dato che il vero valore del parametro ha la stessa probabilità di essere incluso o escluso dall’intervallo. Un intervallo del 95% basato sulla distribuzione normale è circa tre volte più ampio di un intervallo del 50%.