Monitoring
Skyddsräcken för minsta körtid
Fjorton dagar som standard och aldrig färre än sju. På under en vecka mäter du en tisdag och inte en verksamhet.
Trafiken ser inte likadan ut en tisdag som en söndag, och köpavsikten gör det inte heller. Ett experiment som stoppas efter fyra dagar har mätt just de dagarna, och effekten det rapporterar överlever inte en hel vecka.
Därför gäller en minsta körtid innan ett automatiskt stopp vid signifikans tillåts. Standarden är fjorton dagar, två hela affärscykler, och den går inte att ställa in under sju dagar. Gränsen är hård och inte en varning, eftersom argumentet för att gå under den alltid är detsamma och alltid fel.
Den gäller bara signifikansstoppet. En schemalagd sluttid avslutar fortfarande experimentet när den infaller, och en människa kan alltid stoppa det för hand. Skyddsräcket finns för att hindra automatiken från att agera på en avläsning som gjorts för tidigt, inte för att hindra dig från att styra ditt eget testprogram.
Den kontrolleras medvetet före spärren för utebliven trafik. Ett nystartat experiment ser likadant ut som ett som inte har registrerat något på ett dygn, och en blockering på den avläsningen är slutgiltig. Skulle spärren för utebliven trafik utvärderas innan experimentet hunnit få trafik, slogs varje schema med stopp vid signifikans ut inom en minut efter start.