Poznatky
Pět úrovní důkazů
Každý vzorec má jednu z pěti úrovní důkazů, která ukazuje, jak silnou má oporu v datech. Jediný dobrý výsledek se tak nikdy nevydává za pravidlo.
Každý vzorec na stránce Poznatky nese jednu z pěti úrovní důkazů a úroveň určuje, jak o něm stránka mluví. Úrovně se čtou z upraveného intervalu vzorce v pevném pořadí a zobrazí se první, která sedí.
Nejprve se posuzuje úroveň Smíšené: testy stejné věci, v nichž jedna varianta vykazuje spolehlivě kladný a jiná spolehlivě záporný efekt. Protichůdné výsledky se nikdy nezprůměrují na “žádný efekt”, protože by to skrylo nejzajímavější zjištění. Konzistentní znamená, že souhrnný interval ze tří nebo více testů vylučuje nulu. Raný signál znamená totéž, ale jen na základě jednoho nebo dvou testů.
Malý efekt znamená, že interval zahrnuje nulu a leží v rozmezí 2 % na obě strany, což je samo o sobě zjištění: ať tento druh změny dělá cokoli, moc toho nedělá. Všechno ostatní je zatím nedostatek důkazů, což je poctivé čtení většiny vzorců v mladém programu.
Formulace se řídí intervalem i úrovní důkazů. Raný signál pod nulou se proto popisuje jako změna s negativním dopadem, nikoli jako neutrální signál. Stránka také uvádí, kolik vzorců je zatím průkazných, aby bylo na první pohled vidět, jak pevný základ už testovací program poskytuje.