Als je meerdere datapunten hebt (dus, meer dan 1) kun je deze efficient beschrijven met het gemiddelde. Echter, twee sets datapunten met hetzelfde gemiddelde kunnen toch fors verschillen: in het ene geval kunnen alle datapunten bijvoorbeeld dezelfde waarde hebben, terwijl ze in het andere geval ver uit elkaar liggen. Een gemiddelde volstaat daarom niet om een set datapunten te beschrijven: je moet ook iets zeggen over hoe ver die datapunten dan van het gemiddelde af liggen (de spreiding). Een handige maat hiervoor is de gemiddelde afwijking van het gemiddelde: de standaarddeviatie of standaardafwijking.
Nu werken we in de psychologie zelden met populatieverdelingen of verdelingen van steekproefscores. We zijn meestal geinteresseerd in de steekproevenverdeling: bijvoorbeeld de (theoretische) verdeling van mogelijke gemiddelden, waar het gemiddelde van onze steekproef per definitie uit komt (zie voor meer uitleg http://oupsy.nl/help/112/wanneer-is-mijn-data-te-scheef-niet-normaal-verdeeld). Deze verdeling van alle mogelijke gemiddelden die we hadden kunnen vinden heeft natuurlijk ook weer een gemiddelde (dat, niet toevallig, precies het populatiegemiddelde is), en een spreiding, dus een standaarddeviatie. Die standaarddeviatie van de steekproevenverdeling noemen we alleen een standaardfout. Die is gelijk aan de standaarddeviatie in de populatie, gedeeld door de wortel van de steekproefomvang. Omdat we de standaarddeviatie in de populatie natuurlijk niet kennen gebruiken we de standaarddeviatie uit de steekproef als benadering.
Daarnaast is er sprake van errorvariantie: dit is de variantie (MS oftewel Mean Squares, wat dan weer een afkorting is van Mean Sum of Squares, oftewel, het gemiddelde van de som van de gekwadrateerde afwijkingen van het gemiddelde) in de afhankelijke variabele die we niet kunnen verklaren met de andere variabelen die we hebben gemeten. Dit is dus de overgebleven ('residuele') variantie. Die kun je 'error' noemen, omdat alle verschillen tussen datapunten die niet verklaard worden door de variabelen die we hebben gemeten wat ons betreft steekproef- of meetfout is. Errorvariantie is dus niet hetzelfde als de standaard error, oftewel standaardfout.
Je kunt de standaardfout in de breedste zin zien als een indicator van hoe nauwkeurig je iets hebt gemeten. Heeft je gemiddelde een grote standaardfout? Dan vind je de volgende keer waarschijnlijk een ford verschillend gemiddelde. Heeft je regressie-coefficient een kleine standaardfout? Dan zit hij waarschijnlijk erg dicht bij de waarde van die regressie-coefficient in de populatie.
Om het nog ietsje ingewikkelde te maken: zelfs de standaard-deviatie in je steekproef heeft een standaardfout. Die standaard-deviatie is immers ook een schatting van een waarde in de populatie, en dus onderhevig aan "sampling error" en "measurement error". Je kunt bijvoorbeeld toevallig een extreem hoog scorende proefpersoon hebben, waardoor de spreiding in je steekproef veel hoger is dan in de populatie. Als je een nieuwe steekproef zou nemen, zou je een andere standaarddeviatie vinden; waarschijnlijk eentje die dichter in de buurt komt van de standaarddeviatie in de populatie.
Elk getal dat je schat in je analyses heeft dus een standard error. De standaarddeviatie heeft een standard error; de variantie (immers het kwadraat van de standaarddeviatie) heeft een standard error; en de residuele variantie (error variance, $\text{MS}_\text{error}$, of in een eenweg anova de binnen groepen variantie) heeft een standard error.
Ik hoop dat dit het verschil tussen de concepten wat heeft kunnen verduidelijken; stel gerust specifiekere vragen als dat niet zo is, want dit is vrij abstract allemaal :-)
