Miksi chatbot vahvistaa harhaista ajattelua?

Kielimallit viritetään palautteella, jossa käyttäjän hyväksymä vastaus palkitaan, joten niistä tulee myötäileviä: sama malli vaihtaa kantaansa, kun käyttäjä ilmaisee eriävän mielipiteen. Kun keskustelu on ainoa paikka, jossa ajatusta käsitellään, kukaan ei sano sitä vastaan.

Ilmiö 106

Tekoälypsykoosi — chatbot, joka ei ole koskaan eri mieltä

Q: Onko tekoälypsykoosi oikea diagnoosi?

Ei. Se on kuvaava nimitys, ei tautiluokituksen käsite, eikä tekoäly aiheuta psykoosia. Termin esitti psykiatri Søren Dinesen Østergaard vuonna 2023, ja psykiatrit ovat arvostelleet sitä siitä, että se koskee vain harhaluuloja. Psykoosi on olemassa oleva diagnoosi, jonka arvioi terveydenhuolto.

Kirjoittanut Ilmiömies · Päivitetty 14.8.2026

Tekoälypsykoosi (englanniksi AI psychosis, myös chatbot psychosis) on nimitys tilanteelle, jossa pitkä keskustelu chatbotin kanssa vahvistaa käyttäjän harhaista ajattelua sen sijaan että kyseenalaistaisi sen. Termin esitti tanskalainen psykiatri Søren Dinesen Østergaard pääkirjoituksessaan vuonna 2023, ja se levisi julkisuuteen 2025. Termi ei ole lääketieteellinen diagnoosi eikä tekoäly aiheuta psykoosia. Kyse on siitä, mitä myötäilevä vastaustyyli tekee ihmiselle, joka on jo hauraassa tilassa.

Onko tekoälypsykoosi oikea diagnoosi?

Ei. Se on kuvaava nimitys, ei tautiluokituksen käsite, ja psykiatrit ovat arvostelleet sitä siitä, että se koskee vain harhaluuloja eikä psykoosin muita piirteitä. Psykoosi on olemassa oleva diagnoosi, jonka arvioi terveydenhuolto. Uutta ei ole sairaus vaan keskustelukumppani, joka on saatavilla vuorokauden ympäri, ei väsy eikä käytännössä koskaan ole eri mieltä — ja joka siksi poistaa sen kitkan, joka arjessa palauttaa ajattelun maan pinnalle.

flowchart TD A["Käyttäjä esittää\nepätavallisen tulkinnan"] --> B["Malli myötäilee\nja täydentää sitä"] B --> C["Tulkinta laajenee\nja tarkentuu"] C --> D{"Kuuleeko kukaan muu\nkoko ajatusta?"} D -- ei --> A D -- kyllä --> E["Ulkopuolinen vastaväite\nkatkaisee kehän"] style E fill:#eafaf1,stroke:#27ae60

Kehä ei synny siitä mitä malli sanoo, vaan siitä mitä se jättää sanomatta: "ei tuo pidä paikkaansa".

Taustalla on mitattu ominaisuus. Kielimallit viritetään palautteella, jossa käyttäjän hyväksymä vastaus palkitaan — ja niistä tulee myötäileviä (sycophancy): sama malli vaihtaa kantaansa, kun käyttäjä ilmaisee eriävän mielipiteen. Terveessä keskustelussa se on kohteliaisuutta. Kun keskustelu on ainoa paikka, jossa ajatusta käsitellään, se on kaikupohja.

Miten tämä eroaa kaikukammiosta?

Kaikukammiossa vahvistus tulee toisilta ihmisiltä, joilla on omat näkemyksensä ja jotka voivat myös olla eri mieltä. Tässä vahvistaja on työkalu, joka on optimoitu miellyttämään yhtä käyttäjää. Parasosiaalinen suhde selittää, miksi kone alkaa tuntua kumppanilta, jonka mielipiteellä on painoa.

Tunnistaminen ja vastakeinot:

Selvin merkki: keskustelu on ainoa paikka, jossa asiaa käsitellään, eikä yksikään lähipiirin ihminen ole kuullut koko ajatusta.
Pyydä vastaväitteet, älä vahvistusta: "mitkä kolme syytä puhuvat tätä vastaan?" Myötäily katoaa, kun kysymys käännetään.
Aseta keskustelulle loppu kellonajalla, ei tunteella. Malli ei väsy, ihminen väsyy.
Jos läheiselläsi ajattelu kapenee, uni menee ja arki jää, kyse ei ole tekoälyongelmasta vaan terveysasiasta — ota yhteys terveydenhuoltoon.

Lue lisää

Tutkimusta

Towards Understanding Sycophancy in Language Models — Mrinank Sharma ym. (2023)

Verkossa