Sažetak
Pacijentica u ranim tridesetima, liječena pod dijagnozama F60.3 i F41.2, krajem prošle godine opservirana je zbog snažne uznemirenosti, autoagresivnih promišljanja i pulzija. Navela je da se pokušala zarezati, o čemu se savjetovala s chatbotom. Nakon što se nije uspjela ozlijediti kako je namjeravala, chatbot joj je odgovorio na način koji je doživjela kao ponižavajući i okrivljujući, što ju je snažno destabiliziralo. Taj događaj je prepričavala uz izraženu uznemirenost i uvjerenje da bi takve sustave trebalo zabraniti. Slučaj pokazuje da interakcija s generativnom umjetnom inteligencijom u stanju psihičke krize može imati klinički značajan učinak. Za ranjivu osobu umjetna inteligencija (UI) nije samo tehnički alat nego se može i doživjeti kao autoritet, savjetnik ili psihoterapeut. Neprimjeren, invalidirajući ili ponižavajući odgovor može pojačati osjećaje srama, bezvrijednosti, beznađa kao i autoagresivne impulse. Poseban rizik nose suicidalnost i samoozljeđivanje. Opasnost nije samo u mogućnosti da UI ponudi izravne ili neizravne upute za samoozljeđivanje nego i u odgovorima koji relativiziraju rizik, ne prepoznaju hitnost ili potvrđuju korisnikovu beznadnost. Kod osoba u krizi i jedan pogrešno formuliran odgovor može djelovati kao okidač. Problem je i sklonost UI sustava povlađivanju korisniku. Model koji zvuči empatično može u pogrešnom kontekstu potvrditi patološke interpretacije, uključujući depresivne, autoagresivne, paranoidne ili grandiozne sadržaje. Opisuje se i mogućnost da dugotrajne interakcije s UI-jem kod vulnerabilnih osoba pojačaju psihotične simptome u vidu deluzija te otežaju testiranje realiteta. Regulacija je nužna, ali složena jer su UI alati globalno dostupni i često se upotrebljavaju izvan kliničkog nadzora. Potrebni su sigurniji modeli, zabrana opasnih uputa, smanjenje povlađivanja, prepoznavanje kriznih stanja, jasna upozorenja da UI nije terapeut te edukacija korisnika i kliničara. U psihijatrijskoj procjeni ubuduće bi trebalo pitati pacijente upotrebljavaju li UI za razgovor o samoozljeđivanju, suicidalnosti, simptomima ili liječenju.
