Tieteessä tulosta pidetään perinteisesti ”tilastollisesti merkitsevänä”, jos sattuman todennäköisyys on alle 5 % (p < 0,05). Kääntöpuoli: jos testaat kahtakymmentä asiaa, keskimäärin yksi näyttää merkitsevältä pelkästä sattumasta. P-hakkerointi tarkoittaa, että aineistoa viipaloidaan, muuttujia vaihdetaan ja testejä toistetaan, kunnes jokin ylittää julkaisukynnyksen — ja vain se raportoidaan.
Näyttää: tieteellisesti todistettu löydös.
Todellisuus: 1/20 ”osumaa” on juuri sattuman odotusarvo.
Vuonna 2015 toimittaja John Bohannon julkaisi tahallisen p-hakkerointitutkimuksen: pieni koeryhmä, 18 mitattua muuttujaa — jokin niistä ylittäisi merkitsevyysrajan lähes varmasti. Osuma sattui painonpudotukseen, ja ”suklaa auttaa laihtumaan” kiersi maailman lehdet. Sama mekanismi tuottaa vilpittömästikin vääriä löydöksiä: tutkija tekee kymmeniä pieniä valintoja (ketkä mukaan, mitä kontrolloidaan, mikä mittari), joista jokainen voi kääntää tuloksen — Andrew Gelman kutsuu tätä ”haarautuvien polkujen puutarhaksi”.