Sve je više izvještaja o ljudima koji doživljavaju ozbiljne mentalne krize nakon dugotrajnih i intenzivnih razgovora s AI chatbotovima.
Pojava koju pojedini stručnjaci već nazivaju „AI psihozom“ sve češće se povezuje s razvojem psihotičnih simptoma, iako se u stručnim krugovima još vodi rasprava o tome u kojoj mjeri je tehnologija direktni uzrok, a u kojoj samo okidač postojećih problema, piše Futurism.
Prema novom izvještaju Wall Street Journala, među psihijatrima se sve jasnije oblikuje stav da postoji veza između dugotrajne upotrebe AI chatbotova i pojave psihoze. Nekoliko uglednih ljekara, koji su liječili pacijente s teškim psihičkim poremećajima, navodi da su u više slučajeva primijetili snažnu povezanost s intenzivnim „razgovorima“ koje su ti pacijenti vodili s vještačkom inteligencijom.
Među njima je i Keith Sakata, psihijatar s Univerziteta Kalifornije u San Franciscu, koji je liječio dvanaest osoba hospitaliziranih zbog psihoze povezane s korištenjem AI-ja. Kako je rekao za WSJ, problem nastaje kada osoba projektuje vlastitu stvarnost na sistem, a on to bez propitivanja prihvata i potvrđuje. „Računar ne stvara zabludu, ali je aktivno podržava i vraća korisniku kao istinu“, upozorio je Sakata.
Ova pojava izaziva ozbiljnu zabrinutost u stručnim krugovima, posebno jer su zabilježeni i tragični ishodi. Prema dostupnim podacima, u nekoliko slučajeva navodna „AI psihoza“ bila je povezana s teškim povredama, pa čak i smrtnim ishodima. Navodi se da se ChatGPT dovodi u vezu s najmanje osam takvih slučajeva, dok procjene govore da oko pola miliona korisnika sedmično vodi razgovore koji pokazuju znakove rizičnog psihičkog obrasca.
Stručnjaci upozoravaju da je jedan od ključnih problema način na koji su chatbotovi dizajnirani – da budu ljubazni, empatični i da korisniku često potvrđuju njegove stavove. Takav pristup, iako naizgled bezazlen, može kod osoba sklonih psihotičnim epizodama dodatno učvrstiti zablude.
Jedna studija opisuje slučaj 26-godišnje žene koja je dvaput hospitalizirana nakon što je povjerovala da putem ChatGPT-a komunicira s preminulim bratom. Prema nalazima, chatbot ju je uvjeravao da je njeno iskustvo stvarno, čime je dodatno produbio njeno stanje.
„Oni simuliraju ljudski odnos“, rekao je Adrian Preda, profesor psihijatrije na Univerzitetu Kalifornije u Irvineu. „Takvo nešto nikada ranije nismo imali u historiji čovječanstva.“
Ipak, stručnjaci naglašavaju da još nema dokaza da AI sam po sebi uzrokuje psihozu. Umjesto toga, smatra se da može djelovati kao snažan okidač kod osoba koje su već ranjive. Neki pacijenti razvili su opsesivne ideje – od pseudoznanstvenih teorija do religijskih uvjerenja – koje su se dodatno učvršćivale kroz stalnu interakciju s chatbotom.
„Pitanje koje moramo postaviti jeste zašto je određena osoba ušla u psihotično stanje upravo u kontekstu korištenja AI-ja“, istakao je Joe Pierre, psihijatar s Univerziteta Kalifornije u San Franciscu.
Iako još nema zvanične dijagnoze „AI psihoze“, sve je više znakova da će dugotrajna i nekritička upotreba naprednih chatbotova postati ozbiljan izazov za mentalno zdravlje, ali i za regulatore i zdravstvene sisteme širom svijeta.
(Vijesti.ba)