De kans op een Type 1-fout is inderdaad altijd gelijk aan je alpha. Die weet je dus inderdaad van tevoren.
De kans op een Type 1-fout wordt niet lager als je $p$-waarde klein is. Als je alpha gelijk is aan $\alpha=.05$, en je $p$-waarde gelijk is aan $p=.02$, dan is de kans dat je een Type 1-fout maakt gelijk aan $5\%$.
Als de nulhypothese waar is, verwerp je in $\alpha\%$ van de gevallen de nulhypothese, en dat doe je dus in $\alpha\%$ van de gevallen ten onrechte.
Als je een $p$-waarde vindt van $.02$, dan heb je een zeldzame $p$-waarde gevonden - maar eentje die in $.02$ van de steekproeven voorkomt, als de nulhypothese waar is. De volgende keer als je diezelfde steekproef neemt ga je waarschijnljk een veel hogere $p$-waarde vinden. En dan maak je geen Type 1-fout - die maak je immers maar in $\alpha\%$ (e.g. $5\%$) van de gevallen.
De kans op een Type 1-fout, of de kans op een Type 2-fout, is afhankelijk van maar drie dingen:
- Hoe sterk is het verband in de populatie?
- Hoe hoog is alpha?
- Hoeveel deelnemers heb je?
De eerste weet je nooit; de tweede en derde bepaal je zelf. Hoe lager alpha, hoe kleiner de kans op een Type 1-fout, en dus hoe sterker je conclusies, maar hoe groter de kans op een Type 2-fout. Hoe hoger de steekproef, hoe lager de kans op een Type 2-fout.
Kortom, als je de ideale studie wil ontwerpen (en als praktische overwegingen zoals kosten en werving van deelnemers geen rol zouden spelen), dan neem je een $\alpha$ die zo laag mogelijk is (bijvoorbeeld $.00001$ of minder), maar werf je zoveel mogelijk deelnemers (bijvoorbeeld $10000$ of meer). Dan is je kans op een Type 1-fout of een Type 2-fout zo klein mogelijk.
Zie eventueel voor extra uitleg http://oupsy.nl/help/3118/vraag-over-nhst-4-6