Eksperimenti pokazuju da većina korisnika bez preispitivanja prihvata pogrešne odgovore koje daje AI. Takođe, pokazuju i to da kognitivna lenjost uzima sve više maha među svim populacijama.
Kada je reč o alatima zasnovanim na velikim jezičkim modelima (LLM), korisnici se uglavnom mogu podeliti u dve grupe. Sa jedne strane su oni koji AI tretiraju kao moćan, ali nepouzdan alat. Oni gotovo svaku tvrdnju proveravaju i dodatno ocenjuju kako ne bi dozvolili greške u rasuđivanju ili činjenicama. Sa druge strane su oni koji sopstveno kritičko razmišljanje redovno prepuštaju onome što doživljavaju kao sveznajuću mašinu.
Novo istraživanje daje temelje za psihološki okvir koji opisuje upravo drugu grupu, odnosno ljude koji se redovno upuštaju u kognitivnu predaju iliti kognitivnu lenjost pred naizgled autoritativnim odgovorima veštačke inteligencije. Istraživanje analizira kada i zašto ljudi pristaju da svoje kritičko razmišljanje prepuste AI-ju i agentima. Takođe, bavi se i time kako faktori poput nedostatka vremena i spoljašnjih podsticaja utiču na tu odluku.
Samo pitajte mašinu
Istraživači Univerziteta u Pensilvaniji pokušali su da, u istraživanju Thinking – Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender, nadograde postojeću literaturu koja opisuje dve široke kategorije donošenja odluka. Jedna je ona koju oblikuju brze, intuitivne i afektivne obrade. To je Sistem 1. Druga je ona koju oblikuju sporo, promišljeno i analitičko rasuđivanje. To je Sistem 2.
Autori tvrde da je pojava AI sistema stvorila novu, treću kategoriju, veštačku kogniciju. U njoj odluke pokreće "spoljašnje, automatizovano, podacima vođeno rasuđivanje koje potiče iz algoritamskih sistema, a ne iz ljudskog uma".
Ljudi su i ranije koristili digitalne alate, od kalkulatora, do GPS sistema, kao vid kognitivnog rasterećenja za određene zadatke. Strateški su prepuštali određene poslove pouzdanim automatizovanim algoritmima. Dodatno, sopstvenim razmišljanjem nadzirali su i procenjivali rezultate.
Međutim, istraživači tvrde da su AI sistemi doveli do suštinski drugačijeg oblika kognitivne lenjosti. U njemu korisnici pružaju minimalno misaono angažovanje i prihvataju AI rasuđivanje u celosti, bez nadzora i provere. Ova nekritička abdikacija samog rasuđivanja posebno je česta kada je izlaz LLM-a isporučen tečno, samouvereno ili uz minimalno otpora, zaključuje istraživanje.
Pristrasno rasuđivanje
Da bi izmerili rasprostranjenost i efekat kognitivne lenjosti pred AI-jem, istraživači su sproveli niz studija zasnovanih na testovima kognitivne refleksije. Testovi su osmišljeni tako da ispitanike navedu na netačne odgovore, ako se oslanjaju na intuitivne (Sistem 1) misaone procese. Oni bi trebalo da budu relativno jednostavni za one koji koriste promišljene (Sistem 2) procese.
U eksperimentima su učesnicima dali opcioni pristup LLM četbotu koji je bio modifikovan tako da nasumično daje netačne odgovore na pitanja u oko polovini slučajeva. Istraživači su pretpostavili da će korisnici koji često konsultuju četbota dozvoliti da ti netačni odgovori nadjačaju intuitivne i promišljene procese. To bi trebalo da im pogorša ukupan učinak i pokaže opasnosti kognitivne lenjosti.
Eksperimentalna grupa sa pristupom modifikovanom AI-ju koristila ga je za pomoć kod oko 50% ponuđenih zadataka. Kada je AI bio tačan, ti korisnici su njegovo rasuđivanje prihvatali u 93% slučajeva. Međutim, kada je AI nasumično grešio, korisnici su i dalje prihvatali njegovo objašnjenje u vrlo visokoj stopi od 80% slučajeva. Ovo pokazuje da je samo prisustvo AI-ja često istisnulo unutrašnje rasuđivanje, navode istraživači.
Vreme i novac
Ne iznenađuje što je eksperimentalna grupa koja je koristila AI bila znatno uspešnija od kontrolne grupe koja se oslanjala samo na sopstveni mozak kada je AI davao tačne odgovore, ali i znatno lošija od kontrolne grupe kada je AI bio netačan. Važno je, međutim, da je grupa koja je koristila AI ostvarila rezultat za 11,7% viši na skali sopstvenog poverenja u odgovore, iako je LLM davao pogrešne odgovore u polovini slučajeva.
U drugoj studiji, uvedeni su dodatni podsticaji u vidu manjih novčanih nagrada i trenutne povratne informacije za tačne odgovore. To je povećalo verovatnoću da učesnici uspešno nadvladaju pogrešan AI za 19 procentnih poena u odnosu na osnovni nivo. Ovo pokazuje da jasne posledice mogu da podstaknu korisnike AI-ja da izdvoje više vremena za proveru odgovora. Na taj način izbegava se i kognitivna lenjost.
S druge strane, pritisak u vidu tajmera od 30 sekundi smanjio je tu tendenciju da se pogrešan AI ispravi za 12 procentnih poena. To je istraživače navelo na zaključak da je "kada je vreme za odlučivanje oskudno, manje je verovatno da će se aktivirati unutrašnji monitor koji detektuje konflikt i pokreće promišljanje".
Šta je kognitivna lenjost i kako je prevazići
Kognitivna lenjost pojačava toleranciju na pogrešne odgovore. Ukupno, kroz 1.372 učesnika i više od 9.500 pojedinačnih pokušaja, istraživači su utvrdili da su ispitanici bili spremni da prihvate pogrešno AI rasuđivanje u čak 73,2% slučajeva. Upravo to je kognitivna lenjost. Poništavali su pogrešno AI rasuđivanje samo u 19,7% slučajeva. Autori kažu da to pokazuje da ljudi spremno ugrađuju AI-generisane ishode u sopstvene procese donošenja odluka, često bez otpora ili skepticizma. Uopšteno, tečni, samouvereni izlazi se tretiraju kao epistemički autoritativni. Na taj način se spušta prag za proveru i slabe metakognitivni signali koji bi inače odgovor usmerili ka promišljanju, zaključuje istraživanje.
Ovi efekti, međutim, nisu bili jednaki kod svih ispitanika.
Oni koji su na posebnim testovima postigli visoke rezultate na skali tzv. fluidnog IQ-a bili su manje skloni da se oslanjaju na AI za pomoć. Dodatno, češće su poništavali pogrešan odgovor kada bi ipak konsultovali AI. Suprotno tome, oni koji su u anketi pokazali sklonost da AI doživljavaju kao autoritet mnogo su češće bili odvedeni u pogrešnom smeru odgovorima koje je dao AI.
Uprkos rezultatima, ističe se da kognitivna lenjost nije nužno iracionalna. Iako oslanjanje na LLM koji greši u polovini slučajeva, kao u ovim eksperimentima, ima očigledne mane, statistički superioran sistem bi u oblastima poput scenarija verovatnoće, procene rizika ili obimnih podataka mogao da daje bolje rezultate od čoveka.
"Kako se oslanjanje povećava, učinak prati kvalitet AI-ja", pišu autori, "rastući kada je tačan i padajući kada je pogrešan, što ilustruje obećanja superinteligencije i otkriva strukturnu ranjivost kognitivne lenjosti", piše Ars Tehnica.
Drugim rečima, ako prepustite razmišljanje AI-ju, vaše razmišljanje može biti dobro samo onoliko koliko je dobar taj AI sistem.
Kao i uvek – oprez na strani onoga ko daje prompt je ključna, kao i evaluacija odgovora nakon toga. AI je tu da pomogne, ne da nas zameni. Ne dozvolite da vam kognitivna lenjost promeni način rasuđivanja niti zaključivanja.
