Statistik du kan stå på mål for

Forventet tab

Hvad I ville give afkald på ved at udrulle denne variant, hvis den viser sig ikke at være den bedste. Ofte det tal, der reelt afgør beslutningen.

Omkostning ved at tage fejlPr. variantBayesiansk

Signifikans svarer på, om I kan skelne to ting fra hinanden. Forventet tab svarer på noget mere nyttigt, når I er ved at handle: hvis I vælger denne, og I tager fejl, hvor meget dårligere står I så.

Det beregnes ud fra de samme posteriorudtræk som sandsynligheden for at være bedst. For hvert udtræk måler den, hvor langt bag den bedste arm denne variant faldt, og lægger gennemsnittet af det over alle udtræk. En arm, der oftest er bedst og kun ligger lidt bagud, når den ikke er, har et lille forventet tab.

Det er det, der gør tætte afgørelser mulige at træffe. To varianter, der er svære at skille statistisk, er ofte helt trivielle at vælge imellem kommercielt, fordi det næsten intet koster at tage fejl. At vente uger på signifikans om en beslutning, der er så billig, er en dårlig handel, hvor trafik byttes for sikkerhed.

Det skærer også den anden vej. Et stort forventet tab på en variant, der nominelt ligger foran, er en advarsel: opsiden er reel, men nedsiden er ikke lille, og det er et eksperiment, der er værd at lade køre længere.

Bedre eksperimenter, bedre konvertering

Test on all visitors with the world’s lightest script and make confident decisions powered by real-time reporting.