Monitoring
Retrospectiva do experimento
Uma nota de um minuto quando um teste termina, salva com o teste: o que você esperava, o que aconteceu, por quê e o que fazer a seguir.
O resultado de um teste é esquecido quando a pessoa que o rodou segue em frente. A retrospectiva fecha esse ciclo. Quando você encerra um teste, o Pertento oferece um roteiro curto que mostra o resultado e a hipótese e pergunta o que você esperava, por que acha que aconteceu e o que vai fazer agora. Toda pergunta é opcional, e encerrar um teste nunca espera por ela.
O Pertento rascunha o que consegue enxergar, e você confirma ou corrige. Ele compara uma semana inteira do tráfego do site com a primeira semana, para os aparelhos que o teste segmentou, e sinaliza uma mudança de 15% ou mais em testes que rodaram por 14 dias ou mais. Também registra lacunas de medição: dias sem nenhum visitante registrado, ou uma divisão de visitantes que se afastou dos pesos planejados. Sua resposta decide quais fatores externos a retrospectiva registra.
Depois disso, o teste ganha uma aba “Debrief”, um único cartão conduzido pela lição. Os fatos das suas estatísticas ficam de um lado (ganho, confiança, visitantes e os dias de duração do teste) e as respostas do seu time do outro. O título é escrito a partir das estatísticas, nunca digitado, então não consegue exagerar um resultado. Uma variante que parece boa isoladamente, mas não atinge o critério mais rígido exigido quando várias variantes são comparadas, é descrita como não o bastante para decidir, e não como vitória nem como estável.
A aba aparece em qualquer teste que terminou ou que teve um vencedor implantado. Qualquer pessoa com acesso ao teste pode preenchê-la ou alterá-la a qualquer momento, e o cartão mostra quem a escreveu por último e quando, de modo que um colega novo encontra a lição onde o teste mora.