Statistik du kan stå för

Bayesianska resultat

Sannolikheten att varje variant är bäst, och vad det skulle kosta att ha fel. Beräknat för varje experiment, vid sidan av p-värdet snarare än i stället för det.

Beta-binomialLikformig priorReproducerbart

Den bayesianska halvan modellerar varje variants konverteringsgrad som en fördelning snarare än en punkt, med start i en likformig prior som antar ingenting, och uppdaterar den med vad som faktiskt har observerats. Från dessa fördelningar rapporterar den sannolikheten att varje variant är den bästa av de testade, den förväntade kostnaden för att välja fel, och ett kredibelt intervall per variant.

Den beräknas för varje experiment, inte som ett alternativt läge ni måste välja in i. Båda halvorna finns på samma skärm eftersom de svarar på olika frågor och folk behöver båda: sannolikheten är lättare att agera på, p-värdet är lättare att försvara.

Sannolikheterna kommer från att posteriorerna samplas många gånger om och att man räknar hur ofta varje variant kommer ut i täten. En detalj betyder mer än den ser ut att göra: samplingen fröas från datan själv, så samma antal ger alltid samma svar. Utan det skulle en uppdatering av sidan flytta sannolikheten en aning varje gång, och ett tal som ändras när inget har ändrats är ett tal ingen litar på.

Precis som den frekventistiska halvan beskriver den här en konverterade-eller-inte-process, så den beräknas för konvertering. Intäkt per session är inte den sortens storhet, och konsolen rapporterar den som frånvarande i stället för att fylla i kolumnen.

Bättre experiment, bättre konvertering

Test on all visitors with the world’s lightest script and make confident decisions powered by real-time reporting.