Wat betekent het als de p-waarde van een geschatte regressiecoëfficiënt significant is?

Question

Volgens de oefententamensleutel is het antwoord: De kans is gering om deze of een grotere regressiecoëffecient te vinden als de OH waar is.

Ik zou hier zelf concluderen dat de OH wordt verworpen omdat de p-waarde significant is. Dit betekent dat de stelling dat er geen verband bestaat wordt verworpen -> er is dus een verband. 

Ik zie momenteel niet hoe ik tot de conclusie kan komen dat de kans gering is om deze of een grotere regressiecoëffecient te vinden als de OH waar is. Waar ga ik in de fout?

Answer 1

Je interpretatie van een p-waarde is niet correct. Je ziet correct in hoe de p-waarde zich verhoudt tot een regressiegewicht, maar je maakt een aantal zeer belangrijke inferentiefouten.

De kern is dat de p-waarde geen enkele informatie kan geven over welke hypothese/theorie waarschijnlijker is dan de andere. P-waarden zijn geen vergelijkende statistiek. P-waarden zijn gedefinieerd op basis van een voorspelling naar de populatie toe: als ik een experiment onder de aanname van de nulhypothese, (M= 0 en SD =1 bijvoorbeeld) eindeloos ga herhalen, dan zal in 5% van de gevallen (bij een alfa van .05) een parameter van waarde ‘B’ of extremer gevonden worden. De kern is dat probabilities dus toekomstgericht zijn: gegeven wat we weten over de populatie kunnen we een voorspelling doen van toekomstig gedrag in een hypothetisch eindeloos aantal herhaalde experimenten.

In een regressieanalyse wordt tegen de volgende nulhypothese getoetst:
 

$$
H0: B = 0
$$

$$
Ha: B ≠ 0
$$

Dus, onder de nulhypothese wordt aangenomen dat de Beta nul is, dus dat er geen enkel verband in de populatie is tussen X en Y.

Dus, als de p-waarde onder een bepaald criterium alfa zakt (meestal is dat 0.05), dan spreekt men van een significant verband.

De nulhypothese wordt dan verworpen, maar wat betekent ‘verwerpen’?

Het is een keuze van de gebruiker om de nulhypothese naast zich neer te leggen. Niet meer, niet minder.

Dus: als de nulhypothese klopt kan een bepaalde B een zeldzame vondst zijn. Maar op zich zegt dat eigenlijk weinig. Mensen winnen ook wel eens de lotto, dat is ook een uiterst onwaarschijnlijke gebeurtenis. Zeldzaamheid en ‘kan niet waar zijn’ zijn verschillende zaken. Het enige dat de p-waarde stelt is dat de huidige waarneming van B (of extremer) zeldzaam is onder de nulhypothese. Het zegt niet dat het onmogelijk is. Dus, we hebben geen informatie over de waarheid van de nulhypothese.

Ook, en dat is het belangrijkste: we hebben geen enkele informatie over de juistheid van de alternatieve hypothese. Dat de nulhypothese niet hoeft te kloppen betekent niet automatisch dat de alternatieve hypothese dan moet kloppen. In bovenstaand stelsel van hypothesen is echter de alternatieve hypotese zo open geformuleerd dat verwerpen van H0 zich automatisch vertaalt in ‘dan maar’ Ha.