Monitoring
Eksperimentoppsummering
Et notat på ett minutt når en test avsluttes, lagret sammen med testen: hva dere forventet, hva som skjedde, hvorfor og hva som skal skje videre.
Et testresultat blir glemt når personen som kjørte det går videre. Oppsummeringen lukker den sløyfen. Når du avslutter en test, tilbyr Pertento en kort melding som viser resultatet og hypotesen, og spør deretter hva du forventet, hvorfor du tror det skjedde og hva du gjør videre. Alle spørsmål er valgfrie, og å avslutte en test venter aldri på dem.
Pertento utarbeider det den kan se, og du bekrefter eller retter det. Den sammenligner en full uke med trafikk på nettstedet mot den første uken, for enhetene testen var rettet mot, og flagger et skift på 15 % eller mer på tester som kjørte i 14 dager eller lenger. Den noterer også sporingshull: dager uten registrerte besøkende, eller en fordeling av besøkende som har drevet bort fra de planlagte vektene. Svaret ditt avgjør hvilke ytre faktorer oppsummeringen registrerer.
Etterpå har testen en “Debrief”-fane, ett enkelt kort ledet av lærdommen. Fakta fra statistikken ligger på den ene siden (løft, sikkerhet, besøkende og antall dager testen kjørte) og teamets svar på den andre. Overskriften skrives ut fra statistikken, aldri for hånd, så den kan ikke overdrive et resultat. En variant som ser bra ut alene, men ikke klarer det strengere kravet som gjelder når flere varianter sammenlignes, beskrives som ikke nok til å kalle det, heller enn som en seier eller som flat.
Fanen finnes på alle tester som er avsluttet eller har fått en vinner rullet ut. Alle med tilgang til testen kan fylle den ut eller endre den når som helst, og kortet viser hvem som skrev den sist og når, så en ny kollega finner lærdommen der testen ligger.