Prosjekt 5

9.1. Veke 14 Bootstrap

Sett at me studerer fordelinga åt vekta til ein bestemt fiskeart. Vekta til ein tilfeldig fisk er ein stokastisk variabel $X$ med ei viss sannsynsfordeling. Sett at me har fiska $n=20$ fisk, og målt fylgjande vekter:

$$\begin{array}{lll}\hfill \text{15,6};\text{12,6};\text{13,7};\text{13,8};\text{17,0};& & \hfill \\ \hfill \text{12,9};\text{11,5};\text{6,9};\text{7,8};\text{3,7};& & \hfill \\ \hfill \text{13,0};\text{14,4};\text{6,6};\text{11,7};\text{11,1};& & \hfill \\ \hfill \text{1,8};\text{14,9};\text{16,5};\text{12,3};\text{10,5}& & \hfill \end{array}$$

Dette er eit utval, med $n$ observasjonar $x_1,x_2,\dots ,x_n$ av $X$.

Me veit korleis me kan rekna ut utvalsgjennomsnittet $\bar{x}=\text{11,4}$ og utvalsstandardavviket $s=\text{4,02}$ for dette utvalet.

Utvalsgjennomsnittet $\bar{x}$ vert brukt for å estimera populasjonsgjennomsnittet $\mu$. Sidan $\bar{x}$ er rekna ut frå observasjonane $x_i$, er ogso $\bar{x}$ ein observasjon av ein stokastisk variabel som me noterer $\bar{X}$. Dvs. utvalsgjennomsnittet har ein sannsynsfordeling, og kvar gong me finn gjennomsnittet i eit nytt utval får me ein ny observasjon og som regel eit nytt tal. Me vil (nesten) aldri treffa populasjonsgjennomsnittet $\mu$ akkurat, men som regel vil me treffa nær.

Kor nær me treff avheng av standardavviket åt $\bar{X}$. Standardavviket åt ein estimator vert òg kalt standardfeilen. Me veit at standardfeilen her er gjeve som

$$\begin{array}{lll}\hfill {\sigma }_{\bar{X}}=\frac{\sigma }{\sqrt{n}},& & \hfill \text{(25) }\end{array}$$

der $\sigma$ er standardavviket åt $X$. Me kan estimera standardfeilen som

$$\begin{array}{lll}\hfill {\widehat{\sigma }}_{\bar{X}}=\frac{\widehat{\sigma }}{\sqrt{n}}=\frac{s}{\sqrt{n}}.& & \hfill \text{(26) }\end{array}$$

Dette gjev eit mål for kor presis $\bar{X}$ er som estimator for $\mu$.

Sett no at me ynskjer å studera standardavviket $\sigma$ like djupt som me kan studera $\mu$. Me har utvalsstandardavviket $S$ som estimator for $\sigma$, men korleis kan me estimera standardfeilen ${\sigma }_S$ åt $S$?

Med mindre me kjenner den underliggjande sannsynsfordelinga åt $X$ finst der inga analytisk løysing på dette. I mange tilfelle må me rett og slett observera $S$ mange gongar, slik at me har eit utval å rekna med. Me kan gjenta forsøket $m$ gongar, og kvar gong observera eit utval på $n=20$ fisk. For kvart utval kan me rekna ut eit utvalsstandardavvik, slik at me til slutt har $m$ observasjonar $s_1,\dots ,s_m$ av $S$. Då kan me rekna ut gjennomsnittet $\bar{s}$ og utvalsstandardavviket $s_S$.

Problemet med dette er at det er kostbart å samla data. Me treng $m$ gongar so mykje data for å estimera standardfeilen for det opprinnelege forsøket. Bootstrap er ei vanleg løysing som går ut på å simulera $m$ gjentakne utval basert på det eine opprinnelege utvalet.

For å laga eit bootstrap-utval, trekk me 20 tilfeldige fisk frå det fyrste utvalet med tilbakelegging; dvs. same måling kan verta utvald fleire gongar. Dersom det opprinnelege utvalet er representativt for populasjonen, so har bootstrap-utvalet òg ei rimeleg sannsynsfordeling.

$$\begin{array}{lll}\hfill \text{13,0};\text{12,6};\text{10,5}\text{13,7};\text{12,9};& & \hfill \\ \hfill \text{14,4};\text{10,5}\text{3,7};\text{10,5}\text{12,6};& & \hfill \\ \hfill \text{13,7};\text{13,7};\text{11,7};\text{14,9};\text{12,6};& & \hfill \\ \hfill \text{11,7};\text{14,4};\text{13,0};\text{13,7};\text{14,9};& & \hfill \end{array}$$

I dette bootstrap-utvalet finn me $\bar{x}=\text{12,4}$ og $s=\text{2,4}$. Gjentek med dette eksperimentet $m$ gongar, kan me få eit utval med $m$ observasjonar $s$ av $S$, og rekna ut utvalsstandardavviket $s_s$ for utvalet av observasjonar av $S$, og bruka det som estimat for standardfeilen ved estimering av $\sigma$.

Bootstrap er mykje rekning og vert sjelden gjort for hand. Det er ei typisk simuleringsøving, og enkelt å gjera på maskin.

9.1.1. Forundersøking

9.1.2. Bootstrap

No skal me analysera standardavviket $\sigma$ i dømet over vha. bootstrap.

9.1.3. Kontroll

Får å validera bootstrap som metode, skal me no gjenta oppgåvene 9.8–9.10 med ein liten variasjon. I staden for å generera $m$ bootstrap-utval skal me generera «ekte» utval ved hjelp av bootstrapgen.m.

9.1.4. Eit døme til (Ekstra)

9.1.5. Rekneøving (Ekstra)