← Kaikki ilmiöt Tilastoilla valehtelu
Ilmiö 106

P-hakkerointi — testaa kunnes jokin näyttää merkitsevältä

Kirjoittanut · Päivitetty 12.7.2026

Tieteessä tulosta pidetään perinteisesti ”tilastollisesti merkitsevänä”, jos sattuman todennäköisyys on alle 5 % (p < 0,05). Kääntöpuoli: jos testaat kahtakymmentä asiaa, keskimäärin yksi näyttää merkitsevältä pelkästä sattumasta. P-hakkerointi tarkoittaa, että aineistoa viipaloidaan, muuttujia vaihdetaan ja testejä toistetaan, kunnes jokin ylittää julkaisukynnyksen — ja vain se raportoidaan.

Harhaanjohtava (raportoitu tulos)

Suklaa kiihdyttää laihtumista!
p = 0,03

Näyttää: tieteellisesti todistettu löydös.

Rehellinen (kaikki tehdyt testit)

p=0,03
20 testattua muuttujaa

Todellisuus: 1/20 ”osumaa” on juuri sattuman odotusarvo.

Suklaatutkimus, joka meni läpi

Vuonna 2015 toimittaja John Bohannon julkaisi tahallisen p-hakkerointitutkimuksen: pieni koeryhmä, 18 mitattua muuttujaa — jokin niistä ylittäisi merkitsevyysrajan lähes varmasti. Osuma sattui painonpudotukseen, ja ”suklaa auttaa laihtumaan” kiersi maailman lehdet. Sama mekanismi tuottaa vilpittömästikin vääriä löydöksiä: tutkija tekee kymmeniä pieniä valintoja (ketkä mukaan, mitä kontrolloidaan, mikä mittari), joista jokainen voi kääntää tuloksen — Andrew Gelman kutsuu tätä ”haarautuvien polkujen puutarhaksi”.

Sama logiikka arjessa

Tunnistaminen ja vastakeinot: Kysy: montako asiaa testattiin ennen tätä ”löydöstä”? Oliko hypoteesi lyöty lukkoon ennen datan keruuta (esirekisteröinti)? Onko tulos toistettu riippumattomassa aineistossa? Yksittäinen p < 0,05 ilman näitä on arpalippu, ei todiste.
Lue lisää
Kirjoja
  • Science Fictions — Stuart Ritchie (2020)
  • The Art of Statistics — David Spiegelhalter (2019)