Kognitivni mehanizmi interakcije čovjeka i umjetne inteligencije: povjerenje, antropomorfizacija i donošenje odluka

Uvod

Interakcija čovjeka i umjetne inteligencije (AI) nije samo tehnički odnos korisnika i alata. Povjerenje u AI oblikuje se socijalnim i kontekstualnim zaključivanjem o određenom sustavu, njegovim sposobnostima i pouzdanosti. Pritom treba razlikovati pouzdanost sustava, povjerenje korisnika i ponašanje oslanjanja. Ti konstrukti jesu povezani, ali nisu istovjetni i ne moraju se kretati u istom smjeru (Lee i See, 2004; Hoff i Bashir, 2015; Glikson i Woolley, 2020).

Razlikovanje tih konstrukata važno je zato što se riječ „povjerenje” u svakodnevnom govoru često koristi za više različitih procjena. Njome se može označiti vjerovanje da će sustav raditi pouzdano, dojam da je sustav sposoban, spremnost da se prihvati njegova preporuka ili odluka da se preporuka neće dodatno provjeravati. Takve procjene mogu biti povezane, ali nijedna sama po sebi ne opisuje cijeli odnos korisnika prema sustavu. Sustav može imati određenu razinu pouzdanosti, korisnik može razviti određenu razinu povjerenja, a ponašanje oslanjanja može biti ograničeno dodatnom provjerom ili zahtjevima zadatka.

Zato središnje pitanje nije vjeruju li ljudi AI-ju, nego odgovara li njihovo oslanjanje stvarnim sposobnostima i ograničenjima sustava. Povjerenje u AI nije jedinstvena osobina neovisna o okolnostima. Na njega utječu konkretan agent, zadatak, ulozi, prethodno iskustvo, korisnikovi ciljevi i način predstavljanja sustava (Kaplan i sur., 2023).

Ovakvo postavljanje pitanja pomiče naglasak s količine povjerenja na njegovu primjerenost. Više povjerenja nije nužno bolje ako sustav u danom zadatku ne pruža dovoljno pouzdanu osnovu za oslanjanje. Jednako tako, niže povjerenje ne mora biti korisno ako korisnik zbog ranije pogreške odbija preporuku koja bi u određenoj situaciji mogla biti upotrebljiva. U tom se smislu povjerenje ne može promatrati odvojeno od sposobnosti sustava, uvjeta uporabe i ponašanja koje iz procjene slijedi.

Antropomorfizacija je važan mehanizam u tom procesu. Ona označava pripisivanje ljudskih karakteristika neljudskim entitetima, uključujući namjere, emocije, osobnost i razumijevanje. Kod AI sustava takvo pripisivanje mogu potaknuti ljudski komunikacijski i perceptivni signali, uključujući glas, lice i način razgovora. Antropomorfizacija, međutim, nije isto što i objektivna inteligencija sustava niti dokazuje empatiju, svijest ili društveno razumijevanje (Epley, Waytz i Cacioppo, 2007; Nass i Moon, 2000).

Ova razlika sprječava zamjenu dojma s dokazom. Korisnik može doživjeti agentov način komunikacije kao ljudski, ali iz toga ne slijedi da agent posjeduje ljudsko razumijevanje ili mentalno stanje. Slično tomu, agent može ostaviti dojam društvene prisutnosti, a da taj dojam ne znači da je sustav postao pouzdaniji. Antropomorfizacija se zato u ovom radu razmatra kao način na koji korisnik tumači sustav, a ne kao svojstvo koje samo po sebi opisuje stvarne sposobnosti sustava.

U radu se zato povezuju tri razine analize. Prva je razina sustava, odnosno njegova pouzdanost i način predstavljanja. Druga je razina korisnikove procjene, uključujući povjerenje i antropomorfizaciju. Treća je razina ponašanja, odnosno prihvaćanja, odbijanja ili provjeravanja preporuke. Povezivanje tih razina omogućuje oprezniji prikaz donošenja odluka: ista komunikacijska značajka može promijeniti doživljaj sustava, ali ne mora jednako promijeniti ponašanje, a promjena ponašanja ne mora nužno poboljšati kvalitetu odluke.

Takav pristup također ograničava opseg zaključaka. Nalazi o jednom sustavu, jednom zadatku ili jednom načinu mjerenja ne mogu se bez dodatne potpore pretvoriti u opći zaključak o svim AI sustavima. Učinak antropomorfizacije, primjerice, treba vezati uz konkretan signal, modalitet i kontekst, dok se povjerenje mora razlikovati od ponašanja oslanjanja. Cilj nije pronaći jednu osobinu koja bi objasnila sve odnose čovjeka i AI-ja, nego razdvojiti procese koji se u praksi često preklapaju.

Teorijski okvir

Društveni odgovor na računalne sustave

U tradiciji pristupa CASA i knjige The Media Equation opisano je da ljudi prema računalima mogu primjenjivati društvena pravila pristojnosti, reciprociteta, društvenih kategorija i procjene osobnosti. Takvi odgovori ne moraju značiti da korisnik svjesno smatra računalo čovjekom. Društvene reakcije mogu biti automatske i situacijski potaknute (Nass i Moon, 2000).

Važnost tog pristupa nije u tvrdnji da korisnik doslovno izjednačuje računalo s čovjekom. Njegova je važnost u tome što pokazuje kako društveni obrasci mogu biti aktivirani i kada je objekt interakcije tehnički sustav. Korisnik može reagirati na oblik obraćanja, signal društvene prisutnosti ili način na koji sustav odgovara, a da pritom ne zastupa izričito mišljenje da sustav ima ljudske osobine. Društveni odgovor tako može biti dio situacije, a ne nužno stabilno uvjerenje o prirodi sustava.

To razlikovanje posebno je važno kod AI sustava koji koriste jezik. Jezična razmjena olakšava primjenu poznatih društvenih pravila: korisnik može procjenjivati je li odgovor pristojan, suradnički, topao ili uvjerljiv. Takva procjena može utjecati na odnos prema sustavu, ali ne daje samostalnu potvrdu da sustav razumije sadržaj razgovora. Društvena forma interakcije i stvarna sposobnost sustava ostaju analitički odvojene.

The Media Equation monografija je iz 1996. o društvenim odgovorima na računala i medije te u ovom radu služi kao povijesna teorijska podloga (Reeves i Nass, 1996).

Označavanje te knjige kao povijesne teorijske podloge važno je zbog razine tvrdnje. Ona u ovom radu nije predstavljena kao konačno objašnjenje svih suvremenih AI interakcija, nego kao raniji okvir za razumijevanje činjenice da korisnici mogu primjenjivati društvene obrasce na tehničke sustave. Suvremeni AI sustavi mogu imati drukčije oblike, funkcije i kontekste uporabe, pa se povijesni okvir ne smije automatski čitati kao izravni dokaz za svaki današnji sustav.

U tom je smislu društveni odgovor početna točka analize, a ne završni zaključak. On pomaže objasniti zašto korisnik može obraćati pozornost na osobnost, pristojnost ili društvenu kategoriju sustava. Ne određuje sam po sebi hoće li korisnik prihvatiti preporuku, provjeriti je ili je odbaciti. Za taj su korak potrebni dodatni elementi: procjena sposobnosti sustava, zahtjevi zadatka, korisnikovi ciljevi i način na koji se povjerenje mjeri.

Antropomorfizacija

Epley, Waytz i Cacioppo antropomorfizaciju objašnjavaju dostupnošću ljudskog znanja o agentima, motivacijom da se ponašanje objasni i razumije te motivacijom za socijalnim kontaktom. Kod AI sustava ljudski jezik može učiniti ljudske sheme posebno dostupnima, dok neizvjesnost o načinu rada sustava može povećati potrebu za objašnjenjem. Socijalna motivacija objašnjava jedan izvor antropomorfizacije, ali sama po sebi ne dokazuje mentalno stanje sustava (Epley, Waytz i Cacioppo, 2007).

Ovaj trofaktorski prikaz ne znači da se antropomorfizacija u svakoj situaciji javlja na isti način. Dostupnost ljudskog znanja može biti povezana s time kako je sustav predstavljen i kako komunicira. Motivacija za objašnjenjem može biti povezana s neizvjesnošću koju korisnik doživljava pred ponašanjem sustava. Socijalna motivacija može biti jedan od razloga zbog kojih korisnik neljudskom agentu pripisuje ljudske karakteristike. Ti elementi mogu se preklapati, ali ih nije opravdano svesti na jednu jedinu intervenciju ili jednu jedinu mjeru.

Upravo zato pitanje „je li sustav antropomorfan” nije dovoljno precizno. Potrebno je pitati što je korisnik zapravo opazio: ljudski glas, lice, način razgovora, emocionalni stil ili nešto drugo što je u konkretnom istraživanju bilo prisutno. Također je potrebno razlikovati doživljaj ljudskosti od pripisivanja namjere, razumijevanja ili pouzdanosti. Rezultat na jednoj mjeri ne mora predstavljati promjenu na drugoj.

Antropomorfizaciju ne treba tretirati kao jednu intervenciju s jedinstvenim učinkom. Glas, lice, ime, emocionalni stil, gramatičko „ja”, društvena toplina i ponašanje agenta mogu djelovati različito. Nalazi se razlikuju među sustavima i modalitetima, pa pojedinačni pozitivni rezultati nisu dovoljni za zaključak da antropomorfizacija općenito povećava povjerenje.

Ova ograda ima izravnu posljedicu za tumačenje istraživanja. Ako jedan oblik komunikacije promijeni doživljaj agenta, iz toga ne slijedi da će isti učinak imati drugi oblik. Nadalje, ni promjena doživljaja ljudskosti ne mora biti dovoljna da se promijeni ponašanje oslanjanja. Može se promijeniti način na koji korisnik opisuje sustav, a da se ne promijeni njegova odluka da preporuku prihvati ili provjeri. Zato se učinak ne treba pripisivati apstraktnoj „antropomorfizaciji” bez navođenja njezina konkretnog oblika.

U istraživanju autonomnog vozila antropomorfizacija je bila povezana s većim povjerenjem (Waytz, Heafner i Epley, 2014). Nasuprot tomu, istraživanje probabilističkog sustava za detekciju signala nije pronašlo da jednostavne antropomorfne manipulacije povećavaju doživljaj ljudskosti, povjerenje ili izvedbu (Cockram, Bartlett i McCarley, 2023). Sustavni pregled i meta-analiza istraživanja automatiziranih vozila također nisu pronašli opći učinak antropomorfizacije na povjerenje; ljudski glas imao je skroman učinak u nekim uvjetima, dok vizualni signali sami po sebi nisu pokazali stabilan učinak (Jin i sur., 2026).

Ta kombinacija nalaza ne daje osnovu za jednostavan zaključak da je antropomorfizacija korisna ili štetna u svim situacijama. Nalaz autonomnog vozila pokazuje povezanost u konkretnom istraživačkom kontekstu. Nalaz probabilističkog sustava pokazuje da jednostavne manipulacije nisu nužno dovoljne za promjenu doživljaja ljudskosti, povjerenja ili izvedbe. Sustavni pregled dodatno ograničava opseg zaključka jer ne nalazi opći učinak, nego upućuje na razlike među signalima i uvjetima.

Važno je pritom razlikovati odsutnost pronađenog učinka od dokaza da učinka nema. Ako određena manipulacija nije povećala doživljaj ljudskosti ili povjerenje, to može značiti da u tom postupku nije došlo do očekivane promjene, da je učinak bio ograničen na neke uvjete ili da veza između promatranih mjera nije bila stabilna. Takav rezultat ne opravdava širu tvrdnju da antropomorfizacija nikada ne djeluje.

Pregledni rad o antropomorfnim konverzacijskim agentima upozorava na razliku između uvjerljive ljudske komunikacije i stvarnog razumijevanja. Bibliografski zapis rada Chaturvedija, Verme, Srivastave i Khota opisuje ga kao pregled antropomorfizacije u AI agentima i povezanim poslovnim i korisničkim kontekstima. Riječ je o preglednom izvoru koji ne treba predstavljati kao primarni eksperiment ili kvantitativnu sintezu (Peter, Riemer i West, 2025; Chaturvedi i sur., 2025).

Razlika između komunikacijske uvjerljivosti i razumijevanja čuva granicu između korisnikova doživljaja i sposobnosti sustava. Sustav može oblikovati poruke na način koji korisniku djeluje prirodno ili društveno prikladno, ali iz toga se ne može izvesti zaključak o empatiji, svijesti ili društvenom razumijevanju. Pregledni izvori mogu pomoći u postavljanju tog problema i povezivanju nalaza, ali njihov status ne treba zamijeniti sa statusom primarnog eksperimenta.

Povjerenje i ponašanje oslanjanja

Model povjerenja u automatizaciju povjerenje tretira kao mehanizam koji usmjerava oslanjanje u situacijama kada korisnik ne može potpuno razumjeti sustav ili predvidjeti sve njegove reakcije. Kasniji pregledi razmatraju dispozicijske osobine korisnika, situacijsko povjerenje i čimbenike sustava. Meta-analitički nalazi potvrđuju da se povjerenje oblikuje u odnosu između korisnika, sustava i konteksta, a ne samo na temelju točnosti algoritma (Lee i See, 2004; Hoff i Bashir, 2015; Schaefer i sur., 2016; Kaplan i sur., 2023).

Odnosi između korisnika, sustava i konteksta objašnjavaju zašto ista razina točnosti ne mora proizvesti isti odnos prema sustavu. Korisnik procjenjuje sustav u odnosu na zadatak koji treba obaviti, ulogu koju mu dodjeljuje i vlastite ciljeve. Pritom prethodno iskustvo može utjecati na situacijsko povjerenje, ali samo povjerenje ne treba promatrati kao trajnu osobinu koja bi bila neovisna o promjeni zadatka ili sustava.

U praktičnom smislu, povjerenje usmjerava pitanje hoće li korisnik preporuku uzeti u obzir, koliko će je provjeravati i hoće li nastaviti koristiti sustav. Nijedno od tih ponašanja nije automatski jednako povjerenju. Prihvaćanje preporuke može proizaći iz visokog povjerenja, ali i iz nedostatka vremena za provjeru. Odbijanje preporuke može proizaći iz niskog povjerenja, ali i iz pravila zadatka koje zahtijeva neovisnu procjenu. Zato ponašanje treba mjeriti zasebno.

Važna je metodološka razlika između samoprocjene i ponašanja. Dio istraživanja povjerenje mjeri samoprocjenom nakon kratke interakcije, dok druga promatraju izbor preporuke, prihvaćanje pogrešnog savjeta, vrijeme provjere ili spremnost na nastavak korištenja. Zbog toga veće samoprocijenjeno povjerenje ne treba automatski tumačiti kao veće ili primjerenije oslanjanje (Vereschak, Bailly i Caramiaux, 2021).

Samoprocjena može opisati kako korisnik doživljava svoj odnos prema sustavu, ali ne mora pokazati što je korisnik učinio. Nasuprot tomu, ponašajno mjerenje može pokazati izbor ili prihvaćanje preporuke, ali samo po sebi ne mora objasniti zašto je korisnik tako postupio. Jedno mjerenje zato ne treba predstavljati kao zamjenu za drugo. Povezivanje procjene i ponašanja korisno je upravo zato što pokazuje mogući raskorak između onoga što korisnik izjavljuje i onoga što čini.

Razlika između većeg povjerenja i primjerenijeg oslanjanja posebno je važna kod pogrešnih preporuka. Ako korisnik prihvati preporuku bez provjere, to može izgledati kao znak povjerenja, ali ne mora značiti da je oslanjanje bilo usklađeno sa sposobnostima sustava. S druge strane, provjera preporuke ne mora značiti da korisnik sustavu uopće ne vjeruje. Može značiti da je zadatak takav da zahtijeva dodatni oprez.

Najoprezniji zaključak jest da cilj nije povećavati povjerenje neovisno o okolnostima, nego uskladiti oslanjanje sa stvarnim sposobnostima sustava i zahtjevima zadatka. Kalibrirano oslanjanje u ovom je radu normativna i dizajnerska implikacija, a ne opće potvrđeni ishod u svim domenama.

Kalibrirano oslanjanje stoga nije opis jedne univerzalne korisničke reakcije. Ono označava cilj prema kojemu se ponašanje korisnika ne bi trebalo udaljiti ni prema nekritičkom prihvaćanju ni prema automatskom odbijanju. Budući da se sposobnosti sustava, zadaci i mjere razlikuju, taj cilj ne može biti sveden na jednostavno povećanje jedne subjektivne procjene. Njegovo ostvarenje ovisi o tome može li korisnik procijeniti kada je preporuka korisna, kada je potrebna provjera i kada ograničenja sustava zahtijevaju oprez.

Kognitivne pristranosti

Automatizacijska pristranost i samozadovoljstvo

Automatizacijska pristranost odnosi se na prihvaćanje preporuke sustava bez dovoljne provjere. Automatizacijsko samozadovoljstvo odnosi se na smanjenu pažnju prema sustavu zato što se očekuje da će automatizacija pravodobno otkriti probleme. Oba su fenomena povezana s raspodjelom pažnje i opterećenjem zadatkom, a ne samo s jednostavnim „vjerovanjem u tehnologiju” (Parasuraman i Manzey, 2010).

Razlika između tih fenomena pokazuje da se problem ne nalazi samo u stavu korisnika prema tehnologiji. Kod automatizacijske pristranosti naglasak je na tome da se preporuka prihvati bez dovoljne provjere. Kod automatizacijskog samozadovoljstva naglasak je na pažnji prema samom sustavu i očekivanju da će on pravodobno otkriti problem. U oba slučaja ponašanje može biti povezano s raspodjelom pažnje, ali se ne radi o istoj pojavi.

Takva razlika važna je i za tumačenje povjerenja. Korisnik može imati povjerenje u sustav, ali ipak održavati pažnju i provjeravati njegove izlaze. Može također imati povjerenje koje je povezano s manjom pažnjom, čime se povećava mogućnost da se preporuka prihvati bez odgovarajuće procjene. Samoprocjena povjerenja zato ne može sama pokazati postoji li automatizacijska pristranost ili automatizacijsko samozadovoljstvo.

Opterećenje zadatkom dodatno usmjerava analizu prema uvjetima u kojima korisnik donosi odluku. Ako se pažnja raspoređuje između sustava, preporuke i drugih zahtjeva zadatka, ponašanje oslanjanja ne može se objasniti samo time što korisnik sustav smatra inteligentnim ili pouzdanim. Potrebno je gledati kako se povjerenje pretvara u konkretno ponašanje i što korisnik u danoj situaciji može provjeriti.

Algoritamska odbojnost i algoritamsko uvažavanje

Algoritamska odbojnost može nastati nakon vidljive pogreške algoritma, čak i kada algoritam ima bolje prosječne rezultate. Korisnici se tada mogu okrenuti ljudskoj procjeni nakon što vide da algoritam griješi (Dietvorst, Simmons i Massey, 2015).

Ovdje je važno odvojiti prosječnu uspješnost algoritma od korisnikove reakcije na pojedinačnu pogrešku. Korisnik može znati ili vidjeti da algoritam u prosjeku postiže bolje rezultate, ali jedna opažena pogreška može promijeniti spremnost na oslanjanje. To ne znači da je algoritam objektivno postao manje uspješan, nego da se promijenila korisnikova procjena i odnos prema mogućnosti daljnjeg korištenja.

Algoritamska odbojnost zato nije isto što i racionalno utvrđivanje da je sustav nepouzdan. U navedenom okviru ona opisuje obrazac u kojem opažena pogreška može dovesti do okretanja ljudskoj procjeni čak i kada algoritam ima bolje prosječne rezultate. Opseg tvrdnje treba zadržati uz konkretan obrazac i ne pretvarati ga u tvrdnju da će svaka pogreška proizvesti odbijanje algoritma.

Suprotan obrazac opisan je kao algoritamsko uvažavanje. U šest eksperimenata korisnici su ponekad više slijedili isti savjet kada su vjerovali da dolazi od algoritma nego kada su vjerovali da dolazi od čovjeka (Logg, Minson i Moore, 2019). Ova dva obrasca nisu međusobno isključiva. Korisnici nisu dosljedno ni protiv ni za algoritme; obrasci se u navedenim istraživanjima razlikuju prema opaženim pogreškama, vrsti zadatka i ozbiljnosti scenarija.

Algoritamsko uvažavanje ne poništava algoritamsku odbojnost, kao što ni odbojnost ne poništava mogućnost da se algoritamskom savjetu ponekad daje veća težina. Oba se pojma odnose na obrasce ponašanja koji ovise o tome kako korisnik razumije izvor savjeta i kako procjenjuje situaciju. Zato se ne može govoriti o jedinstvenom korisničkom stavu prema algoritmima koji bi u svim zadacima bio pozitivan ili negativan.

Usporedba ta dva obrasca također pokazuje zašto je pogrešno povjerenje tumačiti kao stalnu osobinu. Opažena pogreška može smanjiti spremnost na oslanjanje, dok pripisivanje savjeta algoritmu u drugom kontekstu može povećati njegovo slijeđenje. Promjena izvora, vrste zadatka ili ozbiljnosti scenarija može promijeniti odnos između procjene i ponašanja. Takva varijabilnost ne znači da je povjerenje nevažno, nego da se mora analizirati u odnosu na uvjete.

Ozbiljnost scenarija

U istraživanju Filiz i suradnika sudionici su birali između algoritma s navedenom uspješnošću od 70% i čovjeka s uspješnošću od 60%. Algoritam je odabran u 70,83% trivijalnih scenarija, ali u 50,7% scenarija s potencijalno ozbiljnim posljedicama (Filiz i sur., 2023).

Ove vrijednosti treba čitati kao rezultate izbora u opisanim scenarijima, a ne kao opću stopu prihvaćanja algoritama. Razlika između navedenih scenarija pokazuje da korisnikov izbor nije određen samo uspješnošću koja je pripisana algoritmu i čovjeku. Kada se promijeni ozbiljnost mogućih posljedica, može se promijeniti i spremnost da se izabere algoritam, čak i kada je njegova navedena uspješnost viša.

Ovaj nalaz pokazuje da se izbor algoritma razlikovao među scenarijima različite ozbiljnosti. Ozbiljnost scenarija pritom se preklapa s moralnošću, subjektivnošću, poznatošću i drugim značajkama scenarija. Razliku zato nije opravdano pripisati samo moralnosti, odgovornosti ili uokvirivanju odluke.

Ograda je važna jer se značajke scenarija ne pojavljuju nužno odvojeno. Ozbiljniji scenarij može istodobno biti drukčiji po moralnom značenju, subjektivnosti ili poznatosti sudionicima. Ako se promijeni više značajki zajedno, rezultat ne omogućuje da se razlika pripiše samo jednoj od njih. Stoga nalaz podupire tvrdnju da se izbor razlikovao među scenarijima, ali ne daje samostalnu potvrdu jedne specifične interpretacije tog razlikovanja.

U kontekstu povjerenja ovaj primjer dodatno pokazuje da korisnik može različito postupati prema istoj vrsti preporuke kada se promijeni ulog odluke. Ozbiljnost ne mora promijeniti samo procjenu algoritma, nego i spremnost da se prihvati rizik povezan s korištenjem njegove preporuke. To je još jedan razlog zbog kojega ponašanje oslanjanja treba razlikovati od opće izjave da korisnik sustavu vjeruje.

Donošenje odluka

Korist AI preporuke ne nastaje iz samog postojanja preporuke. Ovisi o tome može li korisnik prepoznati kada je sustav nepouzdan, razumjeti granice preporuke te imati dovoljno vremena i motivacije za neovisnu provjeru.

Ova tvrdnja povezuje sposobnost sustava s uvjetima u kojima korisnik odlučuje. Preporuka može biti dostupna, ali njezina dostupnost ne osigurava da će korisnik razumjeti njezin opseg. Korisnik također može razumjeti da preporuka ima granice, ali ih u konkretnom trenutku ne moći provjeriti. Zato se kvaliteta odluke ne može izvesti samo iz toga da je AI uključen u proces.

Neovisna provjera u tom odnosu nije suprotna svakom obliku povjerenja. Ona može biti način na koji se povjerenje usklađuje sa zahtjevima zadatka. Ako korisnik provjeri preporuku, to ne mora značiti da je odbio sustav. Ako korisnik provjeru ne provede, to ne mora značiti da je preporuka ispravna. U oba slučaja potrebno je razlikovati ponašanje od zaključka o kvaliteti konačne odluke.

U eksperimentu s kognitivnim prisilnim funkcijama takve su intervencije smanjile prekomjerno oslanjanje na AI u odnosu na jednostavna objašnjenja. Istodobno su dobile lošije subjektivne ocjene, a snažnije su koristile sudionicima s većom potrebom za kognitivnim naporom. Ovaj nalaz podupire tvrdnju o mogućem smanjenju prekomjernog oslanjanja, ali ne potvrđuje opće poboljšanje kvalitete odluka (Buçinca, Malaya i Gajos, 2021).

Važno je da se ovaj rezultat ne prevede u tvrdnju kako je svaka intervencija koja zahtijeva dodatno razmišljanje korisna za svakog korisnika. Nalaz je uži: određene kognitivne prisilne funkcije u opisanom su eksperimentu smanjile prekomjerno oslanjanje u odnosu na jednostavna objašnjenja, ali su dobile lošije subjektivne ocjene i različito koristile sudionicima. Zbog toga se učinak mora opisati zajedno s razlikama u doživljaju i potrebama za kognitivnim naporom.

Odluke stoga treba analizirati kroz odnos između pažnje, kognitivnog napora, procjene sposobnosti sustava i ponašanja oslanjanja. Samoprocjena povjerenja nije zamjena za mjerenje stvarnog ponašanja i kvalitete odluke.

Takva analiza ne pretpostavlja da se kvaliteta odluke može procijeniti jednim pokazateljem. Pažnja može biti usmjerena na preporuku, ali korisnik može pogrešno procijeniti njezinu primjerenost. Kognitivni napor može biti veći, ali veći napor sam po sebi ne dokazuje bolji ishod. Procjena sposobnosti sustava može biti oprezna, ali ponašanje oslanjanja ipak može odstupiti od te procjene. Zbog toga je potrebno razdvojiti subjektivne procjene, ponašanje i kvalitetu odluke.

Obrazovanje, poslovanje i svakodnevni život

Obrazovanje

Obrazovni kontekst može se razmotriti kroz iste razlike koje se pojavljuju u općem modelu: između sposobnosti sustava, procjene korisnika i ponašanja oslanjanja. U tom kontekstu nije dovoljno znati da obrazovni djelatnik određeni sustav smatra korisnim ili rizičnim. Potrebno je razlikovati procjenu koristi od stvarnog načina uporabe te jedno i drugo od ishoda učenja. Sama percepcija ne može se pretvoriti u dokaz o poboljšanju učenja.

Ograničenje je posebno važno kada se AI koristi za planiranje, komunikaciju ili pomoć pri radu. Korisnik može određenu funkciju doživjeti kao korisnu, ali iz toga ne slijedi da je poboljšan obrazovni ishod. Jednako tako, navedeni rizik ne predstavlja sam po sebi mjerenje stvarnog pada kognitivnih vještina. U oba smjera potrebno je zadržati razliku između percepcije i ishoda.

U obrazovanju se zato antropomorfizacija ne može promatrati kao samostalno rješenje. Ljudski način komunikacije može utjecati na doživljaj sustava, ali ne potvrđuje da sustav razumije učenika, studenta ili obrazovni cilj. Ako se promatra povjerenje, potrebno je naznačiti odnosi li se ono na komunikacijsku uvjerljivost, procjenu sposobnosti ili spremnost na prihvaćanje preporuke. Bez tog razlikovanja različiti rezultati mogu izgledati kao da mjere istu stvar.

Ovaj rad ne izvodi opći zaključak o povećanju angažmana učenika ili studenata, kvaliteti učenja ili općem učinku antropomorfizacije u obrazovanju. Takvi bi zaključci zahtijevali zasebne nalaze koji u dostupnom materijalu nisu navedeni. Obrazovni se kontekst stoga može koristiti za primjenu analitičkih razlika između percepcije, ponašanja i ishoda, ali ne i za proširenje pojedinačnih nalaza iz drugih konteksta.

Poslovanje i rad

Poslovni kontekst također zahtijeva razlikovanje procjene sustava od ponašanja koje iz te procjene slijedi. Povjerenje u AI može se odnositi na sposobnost sustava da izvrši određenu funkciju, na prihvatljivost njegove preporuke ili na spremnost korisnika da nastavi koristiti sustav. Ti se aspekti ne mogu objediniti u jednu opću tvrdnju o poslovnom povjerenju.

U poslovnim situacijama dodatni je problem to što se naziv „AI sustav” može odnositi na različite uloge i zadatke. Sama činjenica da sustav sudjeluje u procjeni ili upravljanju ne govori kako ga korisnici doživljavaju, kako provjeravaju njegove rezultate ili kako procjenjuju posljedice odluke. Zbog toga se pojedinačan nalaz o jednoj poslovnoj situaciji ne smije proširiti na AI menadžment, pravednost, autonomiju ili mogućnost osporavanja u cijelom poslovnom kontekstu.

U dostupnom materijalu nema dovoljne potpore za opću teoriju poslovnog povjerenja ni za šire zaključke o navedenim aspektima rada. To ne znači da su ta pitanja nevažna, nego da se u ovom tekstu ne mogu razriješiti bez dodatnih, jasno identificiranih nalaza. Oprezan pristup zato zadržava poslovanje kao područje u kojem se mogu primijeniti razlike između povjerenja, pouzdanosti i oslanjanja, ali ne uvodi opći empirijski zaključak izvan tog okvira.

Takvo ograničenje vrijedi i za antropomorfizaciju. Ljudski način obraćanja može promijeniti doživljaj poslovnog agenta, ali sam po sebi ne daje osnovu za tvrdnju o legitimnosti njegovih odluka ili o pravednosti upravljanja. Komunikacijska forma, procjena sposobnosti sustava i prihvaćanje odluke ostaju odvojeni elementi koje bi trebalo zasebno analizirati.

Svakodnevni život

Primjeri poput navigacije, zdravstvenih konverzacijskih agenata, sustava za kupnju i autonomnih vozila mogu ilustrirati napetost između brzine i provjere. U svakodnevnim situacijama korisnik može prihvatiti preporuku ili potražiti alternativu. Ovi su primjeri ilustrativni, a ne zaseban empirijski pregled svih navedenih sustava.

Njihova je uloga u tekstu ograničena na pokazivanje problema, a ne na donošenje zaključka o svakoj navedenoj tehnologiji. U svakom od tih primjera može se pojaviti pitanje koliko korisnik razumije granice preporuke, koliko vremena ima za provjeru i kako ozbiljnost odluke utječe na oslanjanje. Međutim, bez zasebnog empirijskog nalaza nije opravdano tvrditi da se isti obrazac pojavljuje u svim navedenim područjima.

Brzina može potaknuti prihvaćanje preporuke, dok potreba za provjerom može usporiti postupak. Ta napetost ne govori sama po sebi da je jedan izbor bolji u svim okolnostima. Ona samo pokazuje zašto korisnikovo ponašanje treba tumačiti u odnosu na zadatak i raspoložive mogućnosti provjere. I ovdje se povjerenje ne može izjednačiti s prihvaćanjem preporuke, niti se provjera može automatski tumačiti kao nepovjerenje.

Ljudski uvjerljiva komunikacija sama po sebi ne potvrđuje stvarno razumijevanje ili empatiju sustava (Peter, Riemer i West, 2025).

Ova ograda povezuje svakodnevne primjere s teorijskim dijelom rada. Korisnik može reagirati na oblik komunikacije, ali takva reakcija ne dokazuje sposobnosti koje sustav nema neovisno o dojmu. Zato ilustrativni primjeri mogu pomoći u objašnjenju problema antropomorfizacije, ali ne zamjenjuju mjerenje pouzdanosti, povjerenja, oslanjanja ili kvalitete odluke.

Metodološke granice

Postojeća istraživanja opterećena su neujednačenim definicijama. Antropomorfizacija može značiti vizualnu ljudskost, pripisivanje mentalnog stanja, društvenu prisutnost ili doživljaj topline. Te mjere ne treba tretirati kao isti konstrukt.

Neujednačenost definicija otežava usporedbu nalaza. Ako jedno istraživanje mjeri doživljaj ljudskosti, a drugo pripisivanje mentalnog stanja, razlika u rezultatima ne mora značiti da su istraživanja došla do suprotnih zaključaka o istoj pojavi. Može značiti da su promatrala različite aspekte antropomorfizacije. Zato se pri sintezi mora navesti koja je mjera korištena i koji se opseg nalaza iz nje može izvesti.

Isto vrijedi za povjerenje. Samoprocjena povjerenja, izbor preporuke, prihvaćanje pogrešnog savjeta, vrijeme provjere i spremnost na nastavak korištenja nisu međusobno zamjenjive mjere. Svaka opisuje drukčiji dio odnosa između korisnika i sustava. Ako se rezultati tih mjera objedine bez razgraničenja, može se stvoriti dojam da je potvrđen širi nalaz nego što ga pojedina istraživanja zapravo nose.

Važno je razlikovati percepciju i ponašanje. Sudionik može izjaviti da vjeruje AI-ju, a ipak provjeriti svaku preporuku. Može iskazati oprez, a zatim slijediti netočan savjet.

Ovaj mogući raskorak nije samo tehnički problem mjerenja. On mijenja i interpretaciju pojma povjerenja. Izjava o povjerenju govori o korisnikovoj procjeni ili doživljaju, dok ponašanje pokazuje što je korisnik učinio u konkretnom zadatku. Kvaliteta odluke dodatno je pitanje: ni izjava ni ponašanje sami po sebi ne potvrđuju da je odluka bila dobra.

Promjena avatara, glasa ili imena ne mora doista povećati antropomorfizaciju. Negativan rezultat može značiti da manipulacija nije uspjela, a ne da antropomorfizacija nema učinka. Osim toga, početno povjerenje razlikuje se od povjerenja koje se razvija kroz ponavljane uspjehe, pogreške i popravke.

Ova napomena ograničava zaključke o eksperimentalnim manipulacijama. Ako se promijeni avatar, glas ili ime, ali se ne promijeni mjera antropomorfizacije, nije jasno treba li rezultat tumačiti kao odsutnost učinka antropomorfizacije ili kao neuspjeh konkretne manipulacije da proizvede očekivanu promjenu. Bez tog razgraničenja negativan rezultat može biti preširoko interpretiran.

Razlika između početnog i razvijenog povjerenja također je važna. Početna procjena može nastati prije iskustva s pogreškama i popravcima, dok se povjerenje kroz ponavljanu interakciju može oblikovati drukčije. To ne dopušta automatski zaključak o smjeru promjene, ali pokazuje da kratka interakcija ne mora opisivati odnos koji bi se razvio kroz dulje korištenje.

Laboratorijski izbor između čovjeka i algoritma nije jednak odluci o zapošljavanju, medicinskom savjetu, obrazovnom napretku ili stvarnom financijskom riziku. Pregledi istraživanja povjerenja upozoravaju na kratke, male i eksperimentalne studije te ograničenu generalizaciju na dugoročna i visokorizična terenska okruženja (Glikson i Woolley, 2020).

Razlika između laboratorijskog zadatka i stvarne situacije odnosi se i na posljedice odluke. U laboratoriju se može promatrati izbor između ponuđenih opcija, ali stvarna odluka može uključivati dodatne ciljeve, odgovornosti i mogućnosti provjere. Zbog toga nalaz iz kontroliranog zadatka treba zadržati u njegovu opsegu. On može pokazati obrazac u opisanom uvjetu, ali ne mora predvidjeti ponašanje u dugoročnom ili visokorizičnom okruženju.

Ograničena generalizacija ne umanjuje vrijednost laboratorijskih istraživanja. Ona samo određuje što se iz njih može zaključiti. Kontrolirani uvjeti mogu pomoći u ispitivanju odnosa između određenog signala, procjene i izbora. Međutim, prijelaz s tog odnosa na dugoročno ponašanje zahtijeva oprez, osobito kada se razlikuju zadatak, posljedice i mogućnosti neovisne provjere.

Meta-analiza tretira karakteristike korisnika kao jednu od skupina mogućih prediktora povjerenja u AI (Kaplan i sur., 2023). To ne opravdava šire zaključke o potvrđenim kulturnim ili demografskim razlikama.

Ovaj nalaz omogućuje da se korisničke karakteristike prepoznaju kao jedna skupina mogućih prediktora, ali ne daje osnovu za uvođenje konkretnih razlika koje nisu navedene. Potencijalna uloga karakteristika korisnika ne treba se pretvoriti u tvrdnju da su određene kulturne ili demografske skupine potvrđeno različite. Opseg meta-analitičkog nalaza mora ostati vezan uz ono što je u njemu stvarno razmatrano.

Metodološke granice zato djeluju kao zaštita od prebrzog povezivanja nalaza. One zahtijevaju da se uz konstrukte navedu mjere, uz eksperimentalne rezultate konkretni uvjeti, a uz teorijske prijedloge njihova razina potvrđenosti. Posebno je važno da se odsutnost pronađenog učinka ne formulira kao dokaz suprotnog učinka. Ako istraživanje ne pruža uvjerljivu potporu određenoj tvrdnji, zaključak treba ostati ograničen na tu nedostatnu potporu.

Takva metodološka disciplina vrijedi i za sintezu. Pojedinačni pozitivni rezultat, negativan rezultat i meta-analitički pregled ne nose istu vrstu dokaza. Pregledni izvor može organizirati postojeće nalaze, ali se ne treba opisivati kao primarni eksperiment. Povijesna teorijska podloga može usmjeriti interpretaciju, ali ne predstavlja izravni dokaz za svaki suvremeni sustav. Razlikovanje tih razina nužno je za epistemički oprezan tekst.

Zaključak

Povjerenje u AI, antropomorfizacija i kognitivne pristranosti oblikuju uvjete pod kojima se korisnici oslanjaju na AI, ali njihovi učinci nisu univerzalni ni međusobno zamjenjivi. Pouzdanost sustava, povjerenje korisnika i ponašanje oslanjanja različiti su konstrukti, a njihovu povezanost treba ispitivati u odnosu na konkretan zadatak, kontekst i način mjerenja.

Najčvršći zaključak nije da postoji jedan opći učinak AI-ja na korisnika, nego da se odnos mora rastaviti na više razina. Pouzdanost opisuje sustav, povjerenje korisnikovu procjenu, a oslanjanje ponašanje u zadatku. Ako se te razine izjednače, moguće je precijeniti i sigurnost sustava i kvalitetu odluke. Ako se razdvoje, postaje vidljivo zašto isti korisnik može imati određeno povjerenje, provjeravati preporuku i ipak povremeno prihvatiti pogrešan savjet.

Antropomorfizacija može u pojedinim sustavima i zadacima biti povezana s većim povjerenjem, ali drugi nalazi ne pokazuju isti učinak. Automatizacijska pristranost, automatizacijsko samozadovoljstvo, algoritamska odbojnost i algoritamsko uvažavanje također nastaju u različitim uvjetima. Korisnici stoga nisu dosljedno ni protiv ni za algoritme.

Za antropomorfizaciju je posebno važno da se ne govori o jedinstvenoj intervenciji. Glas, lice i način razgovora mogu biti povezani s različitim reakcijama, a rezultat u jednom sustavu ne mora se prenijeti na drugi. Uvjerljiva komunikacija može oblikovati doživljaj sustava, ali ne potvrđuje razumijevanje, empatiju, svijest ili društveno razumijevanje. Teorijska i pregledna literatura pomaže u razjašnjenju tih razlika, ali se njezin status mora jasno označiti.

Obrazovni, poslovni i svakodnevni primjeri mogu pokazati kako se ti procesi pojavljuju u specifičnim situacijama, ali ne podupiru opću tvrdnju da AI ili antropomorfizacija sami po sebi poboljšavaju donošenje odluka. Kalibrirano oslanjanje ostaje normativni i dizajnerski cilj, a ne opće empirijski potvrđeno rješenje.

U obrazovanju, poslovanju i svakodnevnom životu zato treba zadržati razliku između ilustracije i empirijskog pregleda. Primjer može pokazati kako bi se pitanje povjerenja ili provjere moglo postaviti, ali ne može zamijeniti podatak o stvarnom ponašanju ili ishodu. Isto vrijedi za komunikacijske značajke: ljudski oblik obraćanja može promijeniti doživljaj, ali ne dokazuje sposobnosti sustava.

Kalibrirano oslanjanje kao normativni i dizajnerski cilj znači da se korisnikovo ponašanje treba uskladiti sa stvarnim sposobnostima sustava i zahtjevima zadatka. Taj cilj nije isto što i povećanje povjerenja, niti ga je moguće potvrditi samo samoprocjenom. Za njegovo bi ispitivanje trebalo razlikovati procjenu, ponašanje i kvalitetu odluke, uz jasne granice onoga što pojedini nalaz omogućuje zaključiti.

Ukupna slika stoga ostaje kontekstualna. Povjerenje može usmjeravati oslanjanje, ali nije istovjetno oslanjanju. Antropomorfizacija može oblikovati društveni doživljaj sustava, ali nije dokaz njegova mentalnog stanja. Kognitivne pristranosti mogu promijeniti pažnju ili izbor, ali ne pružaju jedinstveno objašnjenje svih odluka. Oprezna analiza ne traži jednu konačnu formulu, nego dosljedno razgraničava nalaze, interpretacije, teorijske prijedloge i otvorena pitanja.

Literatura

1. Buçinca, Z., Malaya, M. B., & Gajos, K. Z. (2021). “To Trust or to Think: Cognitive Forcing Functions Can Reduce Overreliance on AI in AI-Assisted Decision-Making.” Proceedings of the ACM on Human-Computer Interaction, 5, 1–21. DOI: 10.1145/3449287 prema zapisu rada. https://arxiv.org/abs/2102.09692
2. Chaturvedi, R., Verma, S., Srivastava, V., & Khot, S. S. (2025). “Exploring the Frontier of Anthropomorphism in AI Agents: Trends and Way Forward.” Business and Society Review, 130(1), 42–80. DOI: 10.1111/basr.70002. https://www.econbiz.de/Record/exploring-the-frontier-of-anthropomorphism-in-ai-agents-trends-and-way-forward-chaturvedi-rijul/10015395832
3. Cockram, L., Bartlett, M. L., & McCarley, J. S. (2023). “Simple Manipulations of Anthropomorphism Fail to Induce Perceptions of Humanness or Improve Trust in an Automated Agent.” Applied Ergonomics, 111, 104027. DOI: 10.1016/j.apergo.2023.104027. https://pubmed.ncbi.nlm.nih.gov/37100010/
4. Dietvorst, B. J., Simmons, J. P. i Massey, C. (2015). Algorithm Aversion: People Erroneously Avoid Algorithms After Seeing Them Err. Journal of Experimental Psychology: General, 144(1), 114–126. https://faculty.wharton.upenn.edu/wp-content/uploads/2016/11/20-Dietvorst-Simmons-Massey-2015.pdf
5. Epley, N., Waytz, A., & Cacioppo, J. T. (2007). “On Seeing Human: A Three-Factor Theory of Anthropomorphism.” Psychological Review, 114(4), 864–886. DOI: 10.1037/0033-295X.114.4.864. https://pubmed.ncbi.nlm.nih.gov/17907867/
6. Filiz, I., Judek, J. R., Lorenz, M., & Spiwoks, M. (2023). “The Extent of Algorithm Aversion in Decision-Making Situations with Varying Gravity.” PLoS ONE, 18(2), e0278751. DOI: 10.1371/journal.pone.0278751. https://journals.plos.org/plosone/article/file?id=10.1371%2Fjournal.pone.0278751&type=printable
7. Glikson, E., & Woolley, A. W. (2020). “Human Trust in Artificial Intelligence: Review of Empirical Research.” Academy of Management Annals, 14(2), 627–660. DOI: 10.5465/annals.2018.0057. https://cris.technion.ac.il/en/publications/human-trust-in-artificial-intelligence-review-of-empirical-resear/
8. Hoff, K. A., & Bashir, M. (2015). “Trust in Automation: Integrating Empirical Evidence on Factors That Influence Trust.” Human Factors, 57(3), 407–434. DOI: 10.1177/0018720814547570. https://scholars.duke.edu/publication/1163926
9. Jin, W. et al. (2026). “How Does the Anthropomorphism of Automated Vehicles Shape Human Trust? A Systematic Review and Meta-Analysis.” Transportation Research Part F: Traffic Psychology and Behaviour, 121, 103720. DOI: 10.1016/j.trf.2026.103720. https://www.sciencedirect.com/science/article/pii/S1369847826002159
10. Kaplan, A. D., Kessler, T. T., Brill, J. C., & Hancock, P. A. (2023). “Trust in Artificial Intelligence: Meta-Analytic Findings.” Human Factors, 65(2), 337–359. DOI: 10.1177/00187208211013988. https://pubmed.ncbi.nlm.nih.gov/34048287/
11. Lee, J. D., & See, K. A. (2004). “Trust in Automation: Designing for Appropriate Reliance.” Human Factors, 46(1), 50–80. DOI: 10.1518/hfes.46.1.50_30392. https://pubmed.ncbi.nlm.nih.gov/15151155/
12. Logg, J. M., Minson, J. A., & Moore, D. A. (2019). “Algorithm Appreciation: People Prefer Algorithmic to Human Judgment.” Organizational Behavior and Human Decision Processes, 151, 90–103. DOI: 10.1016/j.obhdp.2018.12.005. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2941774
13. Nass, C., & Moon, Y. (2000). “Machines and Mindlessness: Social Responses to Computers.” Journal of Social Issues, 56, 81–103. DOI: 10.1111/0022-4537.00153. https://doi.org/10.1111/0022-4537.00153
14. Parasuraman, R., & Manzey, D. H. (2010). “Complacency and Bias in Human Use of Automation: An Attentional Integration.” Human Factors, 52(3), 381–410. DOI: 10.1177/0018720810376055. https://pubmed.ncbi.nlm.nih.gov/21077562/
15. Peter, S., Riemer, K., & West, J. D. (2025). “The Benefits and Dangers of Anthropomorphic Conversational Agents.” Proceedings of the National Academy of Sciences, 122(22), e2415898122. DOI: 10.1073/pnas.2415898122. https://pmc.ncbi.nlm.nih.gov/articles/PMC12146756/
16. Reeves, B., & Nass, C. (1996). The Media Equation: How People Treat Computers, Television, and New Media Like Real People and Places. CSLI Publications/Cambridge University Press. https://library.usi.edu/record/195132
17. Schaefer, K. E., Chen, J. Y. C., Szalma, J. L., & Hancock, P. A. (2016). “A Meta-Analysis of Factors Influencing the Development of Trust in Automation.” Human Factors, 58(3), 377–400. DOI: 10.1177/0018720816634228. https://pubmed.ncbi.nlm.nih.gov/27005902/
18. Vereschak, O., Bailly, G., & Caramiaux, B. (2021). “How to Evaluate Trust in AI-Assisted Decision Making? A Survey of Empirical Methodologies.” Proceedings of the ACM on Human-Computer Interaction, 5, Article 327. DOI: 10.1145/3476068. https://baptistecaramiaux.com/assets/pdf/vereschak_how_2021.pdf
19. Waytz, A., Heafner, J., & Epley, N. (2014). “The Mind in the Machine: Anthropomorphism Increases Trust in an Autonomous Vehicle.” Journal of Experimental Social Psychology, 52, 113–117. DOI: 10.1016/j.jesp.2014.01.005. https://www.sciencedirect.com/science/article/abs/pii/S0022103114000067