synaptiq.art

Istraživanje za seminarski rad: Kognitivni mehanizmi interakcije čovjeka i umjetne inteligencije: povjerenje, antropomorfizacija i donošenje odluka

Proces izrade seminarskog rada

  1. 1. Istraživanje
  2. 2. Recenzija literature
  3. 3. Sinteza istraživanja
  4. 4. Kritička rasprava ×3
  5. 5. Nacrt rada
  6. 6. Recenzija nacrta
  7. 7. Seminarski rad

Opseg: povjerenje, antropomorfizacija, kognitivne pristranosti i donošenje odluka u obrazovanju, poslovanju i svakodnevnom životu.

Presjek istraživanja: 5. kolovoza 2026.

1. Pregled teme

Interakcija čovjeka i umjetne inteligencije nije samo tehnički odnos između korisnika i alata. Ljudi AI sustavima pripisuju sposobnosti, namjere, karakter i razinu pouzdanosti, a zatim na temelju tih procjena odlučuju hoće li ih slijediti, provjeravati ili ignorirati. Suvremena literatura zato razlikuje najmanje tri povezane, ali nepodudarne razine: pouzdanost sustava, povjerenje korisnika i ponašanje oslanjanja. Povjerenje može biti visoko, a oslanjanje neprimjereno; jednako tako, sustav može biti objektivno kvalitetan, ali ga korisnici mogu nedovoljno koristiti. ([nature.com](https://www.nature.com/articles/s44159-026-00562-1))

Najvažniji teorijski pomak jest prijelaz s pitanja „vjeruju li ljudi AI-ju?” na pitanje „u kojim uvjetima ljudi pravilno kalibriraju svoje oslanjanje na AI?”. Kalibrirano povjerenje znači da intenzitet oslanjanja odgovara stvarnim sposobnostima, ograničenjima i ciljevima sustava. Ne postoji jedno, opće „povjerenje u AI”: ono ovisi o konkretnom agentu, zadatku, ulozima, prethodnom iskustvu, korisnikovim ciljevima i načinu na koji je sustav predstavljen. ([nature.com](https://www.nature.com/articles/s44159-026-00562-1))

Antropomorfizacija je središnji mehanizam tog procesa. Ona označava pripisivanje ljudskih karakteristika neživim ili neljudskim entitetima, uključujući namjere, emocije, osobnost, razumijevanje i moralne motive. Kod AI sustava može biti potaknuta jezikom u prvom licu, glasom, licem, imenom, emocionalnim izrazima, društvenim konvencijama poput ispričavanja ili zahvaljivanja te dojmom da sustav „razumije” korisnika. Međutim, antropomorfizacija nije isto što i objektivna inteligencija sustava niti dokazuje postojanje empatije, svijesti ili društvenog razumijevanja. ([pubmed.ncbi.nlm.nih.gov](https://pubmed.ncbi.nlm.nih.gov/17907867/))

2. Procjena preporučene literature

  • Reeves i Nass (1996), The Media Equation: temeljna knjiga o tome da ljudi na računala, televiziju i druge medije često primjenjuju društvena pravila koja inače koriste u odnosima s ljudima. Važna je kao teorijska preteča današnjih istraživanja AI-ja, ali nije istraživanje generativne AI i ne može se izravno tretirati kao dokaz o ponašanju korisnika prema suvremenim jezičnim modelima. ([library.usi.edu](https://library.usi.edu/record/195132))
  • Peter, Riemer i West (2025), The Benefits and Dangers of Anthropomorphic Conversational Agents: perspektivni rad u PNAS-u. Njegova je vrijednost u konceptualizaciji suvremenih LLM sustava kao agenata koji uvjerljivo oponašaju ljudsku komunikaciju te u upozorenju na koristi i rizike takve uvjerljivosti. Nije meta-analiza ni primarni eksperiment; zaključke treba koristiti kao teorijski okvir i istraživački program, a ne kao konačnu procjenu učinaka. ([pmc.ncbi.nlm.nih.gov](https://pmc.ncbi.nlm.nih.gov/articles/PMC12146756/))
  • Chaturvedi, Verma, Srivastava i Khot (2025), Exploring the Frontier of Anthropomorphism in AI Agents: Trends and Way Forward: pregledni rad usmjeren na antropomorfizaciju, AI agente, društvene pratitelje, chatbotove, korisničko iskustvo i poslovni kontekst. Koristan je za mapiranje pojmova i istraživačkih pravaca, ali ga treba razlikovati od primarnih eksperimenata i kvantitativnih sinteza. ([econbiz.de](https://www.econbiz.de/Record/exploring-the-frontier-of-anthropomorphism-in-ai-agents-trends-and-way-forward-chaturvedi-rijul/10015395832))

3. Ključne tvrdnje

Tvrdnja 1: Povjerenje u AI višedimenzionalno je i kontekstualno. Razina dokaza: visoka za opći zaključak, uz heterogene mjere. Pregledi i meta-analize razlikuju čimbenike korisnika, karakteristike sustava i kontekst interakcije. Pouzdanost, transparentnost, prethodno iskustvo, zadatak, rizik i osobne razlike mogu istodobno djelovati, ali njihov učinak nije jednak u svim domenama. ([pubmed.ncbi.nlm.nih.gov](https://pubmed.ncbi.nlm.nih.gov/34048287/)) Tvrdnja 2: Povjerenje nije isto što i prihvaćanje, zadovoljstvo ili stvarno oslanjanje. Razina dokaza: visoka za metodološki zaključak. Dio istraživanja povjerenje mjeri samoprocjenom nakon kratke interakcije, dok druga istraživanja promatraju ponašanje: izbor AI preporuke, prihvaćanje pogrešnog savjeta, vrijeme provjere ili spremnost na nastavak korištenja. Zbog toga se isti rezultat može opisati kao „veće povjerenje”, „veća prihvatljivost” ili „veće oslanjanje”, iako ti konstrukti nisu zamjenjivi. ([baptistecaramiaux.com](https://baptistecaramiaux.com/assets/pdf/vereschak_how_2021.pdf)) Tvrdnja 3: Ljudi spontano primjenjuju društvene obrasce na računalne sustave. Razina dokaza: visoka za klasične računalne sustave; srednja za suvremene generativne agente. Eksperimenti opisani u tradiciji CASA-e i knjizi The Media Equation pokazali su da ljudi prema računalima primjenjuju pravila pristojnosti, reciprociteta, društvenih kategorija i procjene osobnosti. Nass i Moon pritom naglašavaju da takvi odgovori ne moraju značiti da korisnik svjesno vjeruje da je računalo čovjek; društvene reakcije mogu biti automatske i situacijski potaknute. ([doi.org](https://doi.org/10.1111/0022-4537.00153)) Tvrdnja 4: Antropomorfizacija može povećati početno povjerenje, ali učinak nije univerzalan. Razina dokaza: srednja i kontekstualno ograničena. U istraživanju autonomnog vozila antropomorfizacija je bila povezana s većim povjerenjem, a u kasnijim eksperimentima s većom otpornošću povjerenja nakon pogrešaka sustava. Međutim, eksperiment s probabilističkim sustavom za detekciju signala nije pronašao da jednostavne antropomorfne manipulacije povećavaju doživljaj ljudskosti, povjerenje ili izvedbu. ([sciencedirect.com](https://www.sciencedirect.com/science/article/abs/pii/S0022103114000067)) Tvrdnja 5: Antropomorfizacija nije jedna intervencija, nego skup različitih signala. Razina dokaza: srednja. Ljudski glas, lice, ime, emocionalni stil, gramatičko „ja”, društvena toplina i agentovo ponašanje ne djeluju nužno isto. Učinak može ovisiti o zadatku, vjerodostojnosti ponašanja i tome podudara li se ljudski signal s očekivanom funkcijom sustava. Zato nije opravdano iz jednoga eksperimenta s avatarom zaključiti da će ime ili glas povećati povjerenje u sve vrste AI sustava. ([pubmed.ncbi.nlm.nih.gov](https://pubmed.ncbi.nlm.nih.gov/37100010/)) Tvrdnja 6: Povjerenje u AI može voditi i podupiranju i pogrešnom oslanjanju. Razina dokaza: visoka za automatizaciju općenito; još uvijek neujednačena za generativnu AI. Automatizacijska pristranost nastaje kada korisnik preporuku sustava tretira kao zamjenu za vlastitu provjeru. Može proizvesti pogreške propuštanja, kada korisnik ne reagira na problem, i pogreške počinjenja, kada slijedi netočan savjet. Učinak je povezan s opterećenjem pažnje, nadzornom ulogom korisnika, vidljivošću preporuke i procjenom pouzdanosti sustava. ([pubmed.ncbi.nlm.nih.gov](https://pubmed.ncbi.nlm.nih.gov/21077562/)) Tvrdnja 7: Ljudi mogu istodobno pokazivati algoritamsku odbojnost i algoritamsko uvažavanje. Razina dokaza: visoka za postojanje oba obrasca; srednja za uvjete njihova nastanka. Dietvorst, Simmons i Massey pokazali su da korisnici mogu izbjegavati algoritam nakon što vide da griješi, čak i kada algoritam ima bolje prosječne rezultate. Nasuprot tomu, Logg, Minson i Moore u šest eksperimenata nalaze da ljudi ponekad više slijede isti savjet kada vjeruju da dolazi od algoritma nego kada vjeruju da dolazi od čovjeka. Obrasci ovise o vidljivim pogreškama, usporedbi s ljudskom izvedbom, vrsti zadatka i osobnom doživljaju odgovornosti. ([papers.ssrn.com](https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2941774)) Tvrdnja 8: Ozbiljnost odluke ne mora smanjiti pristranost prema algoritmu. Razina dokaza: srednja, na temelju jednog eksperimentalnog rada. U istraživanju Filiz i suradnika sudionici su birali između algoritma s navedenom uspješnošću od 70% i čovjeka s uspješnošću od 60%. Algoritam je odabran u 70,83% trivijalnih scenarija, ali samo u 50,7% scenarija s potencijalno ozbiljnim posljedicama. Nalaz upućuje na to da moralni ulozi, odgovornost i način uokvirivanja odluke mogu pojačati algoritamsku odbojnost, čak kada je algoritam formalno bolji. ([journals.plos.org](https://journals.plos.org/plosone/article/file?id=10.1371%2Fjournal.pone.0278751&type=printable))

4. Empirijski nalazi po tematskim područjima

4.1. Povjerenje

Klasični model Leeja i Seea povjerenje tretira kao mehanizam koji usmjerava oslanjanje u situacijama kada korisnik ne može potpuno razumjeti sustav ili predvidjeti sve njegove reakcije. Hoff i Bashir kasnije su sintetizirali empirijska istraživanja kroz tri razine: dispozicijske osobine korisnika, situacijsko povjerenje i čimbenike sustava. Meta-analize dodatno potvrđuju da se povjerenje oblikuje u odnosu između korisnika, sustava i konteksta, a ne samo iz „točnosti algoritma”. ([pubmed.ncbi.nlm.nih.gov](https://pubmed.ncbi.nlm.nih.gov/15151155/))

Najpouzdaniji zaključak nije da treba povećavati povjerenje, nego da treba povećavati primjereno povjerenje. Sustav koji je pouzdan, ali prikazuje pretjeranu sigurnost, može izazvati prekomjerno oslanjanje. Sustav koji stalno naglašava ograničenja može potaknuti nedovoljno korištenje i gubitak korisnosti. Empirijska literatura stoga povjerenje sve više povezuje s kalibracijom, transparentnošću, prikazom nesigurnosti i mogućnošću korisnika da preuzme kontrolu. ([nature.com](https://www.nature.com/articles/s44159-026-00562-1))

4.2. Antropomorfizacija

Epley, Waytz i Cacioppo predlažu tri glavna psihološka izvora antropomorfizacije: dostupnost ljudskog znanja o agentima, motivaciju da se ponašanje objasni i razumije te motivaciju za društveni kontakt. Kod AI sustava ljudski jezik čini ljudske sheme posebno dostupnima, dok neizvjesnost o načinu rada sustava povećava potrebu za objašnjenjem. U situacijama usamljenosti, emocionalne potrebe ili socijalne interakcije može se pojačati i motivacija za povezivanjem. ([pubmed.ncbi.nlm.nih.gov](https://pubmed.ncbi.nlm.nih.gov/17907867/))

Eksperimentalni nalazi ipak nisu jednoznačni. Antropomorfizirano autonomno vozilo može biti procijenjeno kao pouzdanije i odgovornije, ali jednostavna promjena izgleda ili komunikacijskog stila u drugom zadatku nije proizvela razliku. Najnovija meta-analiza 66 studija o automatiziranim vozilima nije pronašla opći učinak antropomorfizacije na povjerenje; ljudski glas imao je skroman učinak u nekim uvjetima, dok vizualni signali sami po sebi nisu pokazali stabilan učinak. To je snažan razlog da se antropomorfizacija ne opisuje kao univerzalna strategija za „izgradnju povjerenja”. ([sciencedirect.com](https://www.sciencedirect.com/science/article/abs/pii/S0022103114000067))

4.3. Kognitivne pristranosti

Automatizacijska pristranost odnosi se na prihvaćanje preporuke sustava bez dovoljne provjere. Automatizacijsko samozadovoljstvo ili complacency odnosi se na smanjenu pažnju prema sustavu zato što se očekuje da će automatizacija pravodobno otkriti probleme. Parasuraman i Manzey oba fenomena povezuju s raspodjelom pažnje i opterećenjem zadatkom, a ne samo s „naivnim vjerovanjem u tehnologiju”. ([pubmed.ncbi.nlm.nih.gov](https://pubmed.ncbi.nlm.nih.gov/21077562/))

Algoritamska odbojnost može nastati nakon jedne vidljive pogreške algoritma, osobito kada korisnik smatra da su ljudske pogreške razumljivije ili popravljivije. Algoritamsko uvažavanje pojavljuje se kada se algoritam doživljava kao konzistentniji, objektivniji ili manje podložan ljudskim slabostima. Ta dva fenomena nisu međusobno isključiva; ista osoba može u jednom zadatku preferirati algoritam, a u drugom čovjeka. ([papers.ssrn.com](https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2941774))

Pristranost potvrđivanja i učinak uokvirivanja relevantni su kao potencijalni mehanizmi, ali za ovu temu treba izbjegavati njihovo automatsko pripisivanje svakom AI ponašanju. Najizravniji dokaz u dostupnom korpusu odnosi se na uokvirivanje ozbiljnosti odluke: matematički jednaka opcija algoritma prihvaća se različito kada je predstavljena kao odluka o vremenu, receptu, medicinskom snimku ili kaznenom predmetu. ([journals.plos.org](https://journals.plos.org/plosone/article/file?id=10.1371%2Fjournal.pone.0278751&type=printable))

4.4. Donošenje odluka

AI može poboljšati odluke kada dopunjuje ljudsku prosudbu, smanjuje informacijsko opterećenje ili iznosi relevantan podatak koji bi korisnik teško sam pronašao. Međutim, korist ne nastaje iz samog postojanja preporuke. Ovisi o tome prepoznaje li korisnik kada je sustav nepouzdan, može li razumjeti granice preporuke i ima li dovoljno vremena i motivacije za neovisnu provjeru. U eksperimentu s kognitivnim „prisilnim funkcijama” takve intervencije smanjile su prekomjerno oslanjanje na AI u odnosu na jednostavna objašnjenja, ali su istodobno dobile lošije subjektivne ocjene i snažnije koristile sudionicima s većom potrebom za kognitivnim naporom. ([arxiv.org](https://arxiv.org/abs/2102.09692))

5. Primjena u obrazovanju, poslovanju i svakodnevnom životu

Obrazovanje

U obrazovanju je ključno razlikovati povjerenje učenika u AI tutora od stvarne kvalitete učenja. Istraživanje Van Brummelena i suradnika pokazalo je da obrazovne aktivnosti o tome kako su konverzacijski agenti trenirani, kako obrađuju informacije i što njihove sposobnosti znače mogu promijeniti dječje i roditeljske modele agenta te njihovo povjerenje. Nalaz podupire ideju da se primjereno povjerenje ne gradi samo dizajnom sučelja, nego i AI pismenošću. ([ojs.aaai.org](https://ojs.aaai.org/index.php/AAAI/article/view/26883))

U školskom i visokoškolskom okruženju antropomorfizacija može povećati angažman i osjećaj pristupačnosti, ali istodobno može zamagliti razliku između pedagoškog partnera i sustava koji generira vjerojatne odgovore. Učitelji u kvalitativnom istraživanju o ChatGPT-u navodili su koristi poput planiranja nastave i personaliziranog učenja, ali i rizike netočnih informacija, varanja i slabljenja kognitivnih vještina. To su percepcijski nalazi, a ne dokaz da AI nužno smanjuje ili poboljšava sposobnost učenja. ([files.eric.ed.gov](https://files.eric.ed.gov/fulltext/EJ1447510.pdf))

Poslovanje i rad

U poslovnom kontekstu povjerenje se ne odnosi samo na to hoće li zaposlenik slijediti preporuku, nego i na pravednost, status, autonomiju i mogućnost osporavanja odluke. U tri kontrolirana eksperimenta kandidati za posao procijenili su AI agenta za evaluaciju kao manje pouzdanog od ljudskog evaluatora, što je smanjilo namjeru prihvaćanja posla. U drugom programu istraživanja, pet preregistriranih studija pokazalo je da algoritamsko upravljanje može smanjiti percipirani društveni status rada, uključujući i scenarij u kojem je GPT-3 korišten za davanje uputa, povratnih informacija i financijskih poticaja. ([sciencedirect.com](https://www.sciencedirect.com/science/article/pii/S0148296324002212))

Ovi nalazi pokazuju da humaniziranje AI menadžera nije nužno rješenje. Ako antropomorfni dizajn samo povećava dojam da sustav ima osobnost, ali ne povećava proceduralnu pravednost, transparentnost ili mogućnost žalbe, može pojačati emocionalnu reakciju bez popravljanja legitimnosti odluke.

Svakodnevni život

U svakodnevnim situacijama korisnici često biraju između brzine i provjere: prihvatiti preporuku navigacijskog sustava, zdravstvenog chatbot-a, sustava za kupnju ili autonomnog vozila ili samostalno tražiti alternativu. U takvim niskorizičnim kontekstima antropomorfni signali mogu učiniti interakciju ugodnijom, ali u visokorizičnim situacijama mogu proizvesti pogrešnu analogiju između društvene topline i stručne kompetencije. To je konceptualno važna razlika: agent može zvučati brižno, a ipak biti nepouzdan u činjeničnom zadatku. ([pmc.ncbi.nlm.nih.gov](https://pmc.ncbi.nlm.nih.gov/articles/PMC12146756/))

6. Relevantni mehanizmi uz epistemološke ograde

  • Društveni odgovor na tehnologiju: ljudski jezik i društveni signali aktiviraju postojeće skripte pristojnosti, reciprociteta i procjene osobnosti. To ne znači da korisnik doslovno vjeruje da je sustav čovjek. ([doi.org](https://doi.org/10.1111/0022-4537.00153))
  • Heuristika kompetencije: fluentan, brz i samouvjeren odgovor može se koristiti kao znak znanja, iako je jezična uvjerljivost samo površinski signal. PNAS rad o antropomorfnim konverzacijskim agentima upozorava upravo na razdvajanje komunikacijske uvjerljivosti od stvarnog razumijevanja. ([pmc.ncbi.nlm.nih.gov](https://pmc.ncbi.nlm.nih.gov/articles/PMC12146756/))
  • Motivacija za razumijevanje: kada je ponašanje sustava teško predvidjeti, korisnik može posegnuti za ljudskim pojmovima poput namjere, osobnosti ili „razmišljanja”. To je interpretativna strategija, ne dokaz stvarnog unutarnjeg mentalnog stanja sustava. ([pubmed.ncbi.nlm.nih.gov](https://pubmed.ncbi.nlm.nih.gov/17907867/))
  • Motivacija za socijalnim kontaktom: potreba za komunikacijom može pojačati antropomorfizaciju, posebno u razgovornim i emocionalno obojenim interakcijama. Međutim, iz dostupnih radova ne može se izvesti opći zaključak da AI odnosi nužno zamjenjuju ljudske odnose ili štete psihološkoj dobrobiti. ([pubmed.ncbi.nlm.nih.gov](https://pubmed.ncbi.nlm.nih.gov/17907867/))
  • Pažnja i kognitivni napor: kada je korisnik opterećen drugim zadacima, preporuka AI sustava može postati prečac koji zamjenjuje aktivno traženje proturječnih informacija. ([pubmed.ncbi.nlm.nih.gov](https://pubmed.ncbi.nlm.nih.gov/21077562/))
  • Odgovornost i moralni ulozi: u ozbiljnim odlukama korisnici mogu biti oprezniji prema algoritmu, ali mogu i prebaciti odgovornost na sustav. Smjer učinka ovisi o framingu, percepciji kontrole i mogućnosti opravdavanja odluke. ([journals.plos.org](https://journals.plos.org/plosone/article/file?id=10.1371%2Fjournal.pone.0278751&type=printable))

7. Suprotni nalazi i granice zaključivanja

8. Metodološka ograničenja postojećih istraživanja

  1. Neujednačene definicije: antropomorfizacija može značiti vizualnu ljudskost, pripisivanje mentalnog stanja, društvenu prisutnost ili doživljaj topline. Te mjere ne treba tretirati kao isto.
  2. Razlika između percepcije i ponašanja: sudionik može reći da vjeruje AI-ju, ali ipak provjeriti svaku preporuku; može također izjaviti oprez, a zatim slijediti netočan savjet.
  3. Slaba valjanost manipulacija: promjena avatara, glasa ili imena ne mora doista povećati antropomorfizaciju. Negativan rezultat može značiti da manipulacija nije uspjela, a ne da antropomorfizacija nema učinka.
  4. Kratko trajanje: početno povjerenje razlikuje se od povjerenja koje se razvija kroz ponavljane uspjehe, pogreške i popravke.
  5. Ograničena ekološka valjanost: laboratorijski izbor između čovjeka i algoritma nije jednak odluci o zapošljavanju, medicinskom savjetu, obrazovnom napretku ili stvarnom financijskom riziku.
  6. Problem modela i verzija: generativni sustavi mijenjaju ponašanje ovisno o modelu, sučelju, memoriji, pravilima sigurnosti i trenutku mjerenja. Rezultat na jednom chatbotu ne može se bez provjere generalizirati na „AI” općenito.
  7. Kulturna i demografska ograničenja: povjerenje, društvena očekivanja, odnos prema autoritetu i tolerancija prema pogreškama razlikuju se među populacijama. Meta-analitički i pregledni radovi stoga trebaju biti čitani uz pozornost prema sastavu uzorka. ([pubmed.ncbi.nlm.nih.gov](https://pubmed.ncbi.nlm.nih.gov/34048287/))

9. Otvorena pitanja

  • Kada antropomorfni signali poboljšavaju kalibraciju, a kada samo povećavaju početnu naklonost?
  • Kako se povjerenje mijenja nakon ponovljenih pogrešaka, isprika, objašnjenja i promjena modela?
  • Koje kombinacije ljudskog glasa, osobnosti i transparentnosti smanjuju, a koje povećavaju automatizacijsku pristranost?
  • Može li se povjerenje u AI mjeriti istodobno samoprocjenom, ponašanjem, vremenom provjere i stvarnom kvalitetom odluke?
  • Kako obrazovanje o treniranju, nesigurnosti i ograničenjima AI-ja mijenja dugoročne obrasce oslanjanja učenika?
  • Kako se povjerenje razlikuje između preporučivačkog sustava, konverzacijskog asistenta, autonomnog agenta i sustava koji donosi odluku s izravnim posljedicama?
  • Kako u poslovanju uskladiti učinkovitost algoritamske procjene s osjećajem proceduralne pravednosti, statusa i mogućnosti žalbe?
  • Kako dizajnirati sustave koji su društveno razumljivi, ali ne stvaraju lažan dojam empatije, svijesti ili stručnosti?

10. Preporučena struktura budućeg rada

  1. Uvod: AI kao kognitivni i društveni akter, a ne samo računalni alat.
  2. Pojmovni okvir: razlikovati pouzdanost, povjerenje, povjerenje u namjere, prihvaćanje i ponašanje oslanjanja.
  3. Teorijska osnova: Media Equation, CASA i trofaktorska teorija antropomorfizacije.
  4. Razvoj povjerenja: početno povjerenje, iskustveno povjerenje, reakcije na pogreške i kalibracija.
  5. Antropomorfizacija: jezični, vizualni, glasovni i ponašajni signali; razlikovati dizajniranu antropomorfizaciju od korisničkog pripisivanja.
  6. Kognitivne pristranosti: automatizacijska pristranost, samozadovoljstvo, algoritamska odbojnost, algoritamsko uvažavanje i framing.
  7. Donošenje odluka: kada AI nadopunjuje prosudbu, a kada je zamjenjuje; uloga pažnje, kognitivnog napora i odgovornosti.
  8. Domena obrazovanja: AI tutor, AI pismenost, razvoj točnog mentalnog modela i rizik pretjeranog oslanjanja.
  9. Domena poslovanja: AI menadžment, zapošljavanje, proceduralna pravednost, status i kontrola.
  10. Svakodnevni život: preporuke, chatbotovi, autonomna vozila i niskorizične nasuprot visokorizičnim odlukama.
  11. Metodološka kritika: konstrukti, mjere, valjanost manipulacija i problem generalizacije između sustava.
  12. Zaključak: cilj nije maksimalno povjerenje u AI, nego opravdano i kontekstualno kalibrirano oslanjanje.

11. Sažeta procjena razine dokaza

  • Najčvršći nalazi: povjerenje je višedimenzionalno; pouzdanost i kontekst utječu na oslanjanje; automatizacijska pristranost i algoritamska odbojnost postoje; samoprocjena povjerenja nije dovoljna mjera.
  • Umjereno čvrsti nalazi: antropomorfizacija može povećati povjerenje u određenim sustavima, osobito kada se ljudski signal podudara sa zadatkom i očekivanjima korisnika.
  • Slabije potvrđeni nalazi: da antropomorfni AI sustavi općenito poboljšavaju učenje, poslovnu učinkovitost ili dobrobit; dostupni su pojedinačni eksperimenti i konceptualni radovi, ali nema dovoljno dugoročnih, terenskih i usporedivih istraživanja.
  • Glavni urednički zaključak: rad treba izbjegavati jednostavnu dihotomiju „ljudi vjeruju AI-ju” nasuprot „ljudi ne vjeruju AI-ju”. Središnja tema treba biti usklađivanje korisnikova mentalnog modela, stvarne sposobnosti sustava i ponašanja odlučivanja.

12. Korišteni izvori i tragovi provjere

  1. Reeves, B., & Nass, C. (1996). The Media Equation: How People Treat Computers, Television, and New Media Like Real People and Places. CSLI Publications/Cambridge University Press. Bibliografski zapis provjeren u knjižničnom katalogu. ([library.usi.edu](https://library.usi.edu/record/195132))
  2. Nass, C., & Moon, Y. (2000). “Machines and Mindlessness: Social Responses to Computers.” Journal of Social Issues, 56, 81–103. DOI: 10.1111/0022-4537.00153. ([doi.org](https://doi.org/10.1111/0022-4537.00153))
  3. Epley, N., Waytz, A., & Cacioppo, J. T. (2007). “On Seeing Human: A Three-Factor Theory of Anthropomorphism.” Psychological Review, 114(4), 864–886. DOI: 10.1037/0033-295X.114.4.864. ([pubmed.ncbi.nlm.nih.gov](https://pubmed.ncbi.nlm.nih.gov/17907867/))
  4. Lee, J. D., & See, K. A. (2004). “Trust in Automation: Designing for Appropriate Reliance.” Human Factors, 46(1), 50–80. DOI: 10.1518/hfes.46.1.50_30392. ([pubmed.ncbi.nlm.nih.gov](https://pubmed.ncbi.nlm.nih.gov/15151155/))
  5. Hoff, K. A., & Bashir, M. (2015). “Trust in Automation: Integrating Empirical Evidence on Factors That Influence Trust.” Human Factors, 57(3), 407–434. DOI: 10.1177/0018720814547570. ([scholars.duke.edu](https://scholars.duke.edu/publication/1163926))
  6. Schaefer, K. E., Chen, J. Y. C., Szalma, J. L., & Hancock, P. A. (2016). “A Meta-Analysis of Factors Influencing the Development of Trust in Automation.” Human Factors, 58(3), 377–400. DOI: 10.1177/0018720816634228. ([pubmed.ncbi.nlm.nih.gov](https://pubmed.ncbi.nlm.nih.gov/27005902/))
  7. Glikson, E., & Woolley, A. W. (2020). “Human Trust in Artificial Intelligence: Review of Empirical Research.” Academy of Management Annals, 14(2), 627–660. DOI: 10.5465/annals.2018.0057. ([cris.technion.ac.il](https://cris.technion.ac.il/en/publications/human-trust-in-artificial-intelligence-review-of-empirical-resear/))
  8. Kaplan, A. D., Kessler, T. T., Brill, J. C., & Hancock, P. A. (2023). “Trust in Artificial Intelligence: Meta-Analytic Findings.” Human Factors, 65(2), 337–359. DOI: 10.1177/00187208211013988. ([pubmed.ncbi.nlm.nih.gov](https://pubmed.ncbi.nlm.nih.gov/34048287/))
  9. Parasuraman, R., & Manzey, D. H. (2010). “Complacency and Bias in Human Use of Automation: An Attentional Integration.” Human Factors, 52(3), 381–410. DOI: 10.1177/0018720810376055. ([pubmed.ncbi.nlm.nih.gov](https://pubmed.ncbi.nlm.nih.gov/21077562/))
  10. Dzindolet, M. T., Peterson, S. A., Pomranky, R. A., Pierce, L. G., & Beck, H. P. (2003). “The Role of Trust in Automation Reliance.” International Journal of Human-Computer Studies, 58, 697–718. DOI: 10.1016/S1071-5819(03)00038-7. ([sciencedirect.com](https://www.sciencedirect.com/science/article/abs/pii/S1071581903000387))
  11. Logg, J. M., Minson, J. A., & Moore, D. A. (2019). “Algorithm Appreciation: People Prefer Algorithmic to Human Judgment.” Organizational Behavior and Human Decision Processes, 151, 90–103. DOI: 10.1016/j.obhdp.2018.12.005. ([papers.ssrn.com](https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2941774))
  12. Filiz, I., Judek, J. R., Lorenz, M., & Spiwoks, M. (2023). “The Extent of Algorithm Aversion in Decision-Making Situations with Varying Gravity.” PLoS ONE, 18(2), e0278751. DOI: 10.1371/journal.pone.0278751. ([journals.plos.org](https://journals.plos.org/plosone/article/file?id=10.1371%2Fjournal.pone.0278751&type=printable))
  13. Buçinca, Z., Malaya, M. B., & Gajos, K. Z. (2021). “To Trust or to Think: Cognitive Forcing Functions Can Reduce Overreliance on AI in AI-Assisted Decision-Making.” Proceedings of the ACM on Human-Computer Interaction, 5, 1–21. DOI: 10.1145/3449287 prema zapisu rada. ([arxiv.org](https://arxiv.org/abs/2102.09692))
  14. Waytz, A., Heafner, J., & Epley, N. (2014). “The Mind in the Machine: Anthropomorphism Increases Trust in an Autonomous Vehicle.” Journal of Experimental Social Psychology, 52, 113–117. DOI: 10.1016/j.jesp.2014.01.005. ([sciencedirect.com](https://www.sciencedirect.com/science/article/abs/pii/S0022103114000067))
  15. de Visser, E. J., Monfort, S. S., McKendrick, R., Smith, M. A. B., McKnight, P. E., Krueger, F., & Parasuraman, R. (2016). “Almost Human: Anthropomorphism Increases Trust Resilience in Cognitive Agents.” Journal of Experimental Psychology: Applied, 22(3), 331–349. DOI: 10.1037/xap0000092. ([researchgate.net](https://www.researchgate.net/publication/306021340_Almost_Human_Anthropomorphism_Increases_Trust_Resilience_in_Cognitive_Agents))
  16. Cockram, L., Bartlett, M. L., & McCarley, J. S. (2023). “Simple Manipulations of Anthropomorphism Fail to Induce Perceptions of Humanness or Improve Trust in an Automated Agent.” Applied Ergonomics, 111, 104027. DOI: 10.1016/j.apergo.2023.104027. ([pubmed.ncbi.nlm.nih.gov](https://pubmed.ncbi.nlm.nih.gov/37100010/))
  17. Peter, S., Riemer, K., & West, J. D. (2025). “The Benefits and Dangers of Anthropomorphic Conversational Agents.” Proceedings of the National Academy of Sciences, 122(22), e2415898122. DOI: 10.1073/pnas.2415898122. ([pmc.ncbi.nlm.nih.gov](https://pmc.ncbi.nlm.nih.gov/articles/PMC12146756/))
  18. Chaturvedi, R., Verma, S., Srivastava, V., & Khot, S. S. (2025). “Exploring the Frontier of Anthropomorphism in AI Agents: Trends and Way Forward.” Business and Society Review, 130(1), 42–80. DOI: 10.1111/basr.70002. ([econbiz.de](https://www.econbiz.de/Record/exploring-the-frontier-of-anthropomorphism-in-ai-agents-trends-and-way-forward-chaturvedi-rijul/10015395832))
  19. Van Brummelen, J., Tian, M. C., Kelleher, K., & Nguyen, N. H. (2024). “Learning Affects Trust: Design Recommendations and Concepts for Teaching Children—and Nearly Anyone—about Conversational Agents.” Proceedings of the AAAI Conference on Artificial Intelligence, 37(13), 15860–15868. DOI: 10.1609/aaai.v37i13.26883. ([ojs.aaai.org](https://ojs.aaai.org/index.php/AAAI/article/view/26883))
  20. Jin, W. et al. (2026). “How Does the Anthropomorphism of Automated Vehicles Shape Human Trust? A Systematic Review and Meta-Analysis.” Transportation Research Part F: Traffic Psychology and Behaviour, 121, 103720. DOI: 10.1016/j.trf.2026.103720. ([sciencedirect.com](https://www.sciencedirect.com/science/article/pii/S1369847826002159))
  21. Vereschak, O., Bailly, G., & Caramiaux, B. (2021). “How to Evaluate Trust in AI-Assisted Decision Making? A Survey of Empirical Methodologies.” Proceedings of the ACM on Human-Computer Interaction, 5, Article 327. DOI: 10.1145/3476068. ([baptistecaramiaux.com](https://baptistecaramiaux.com/assets/pdf/vereschak_how_2021.pdf))
Natrag na finalni rad