Vse več ljudi se obrača na ChatGPT in druge klepetalne robote umetne inteligence po nasvete o duševnem zdravju. Nova raziskava Univerze Brown pa opozarja, da ti sistemi za takšno vlogo še niso pripravljeni. Tudi kadar jih uporabniki izrecno prosijo, naj delujejo kot terapevti, pogosto kršijo osnovna etična načela psihološke pomoči.
Raziskovalci so primerjali odgovore klepetalnih robotov z odzivi svetovalcev vrstnikov in licenciranih psihologov. Pri tem so odkrili petnajst različnih etičnih tveganj. Med njimi so neustrezno odzivanje v kriznih situacijah, utrjevanje škodljivih prepričanj, pristranski odgovori ter tako imenovana zavajajoča empatija. Gre za primere, ko sistem uporablja izraze, kot sta »razumem vas« ali »vidim, kako se počutite«, čeprav dejanskega razumevanja nima.
Raziskava kaže, da tudi sistemi, ki jih uporabniki usmerijo z navodili, naj uporabljajo psihoterapevtske pristope, pogosto ne dosegajo etičnih standardov, ki jih določajo strokovne organizacije, kot je Ameriško psihološko združenje.
»V raziskavi predstavljamo okvir petnajstih etičnih tveganj, ki kažejo, kako lahko svetovalni sistemi na osnovi velikih jezikovnih modelov kršijo standarde psihoterapevtske prakse,« so zapisali avtorji študije. Po njihovem mnenju bo v prihodnje nujno oblikovati jasne etične, izobraževalne in pravne standarde za uporabo umetne inteligence na področju psihološkega svetovanja.
Navodila lahko usmerijo odgovore, ne pa nadomestijo terapevta
Vodja raziskave Zainab Iftikhar z Univerze Brown je preverjala, ali lahko natančno oblikovana navodila izboljšajo vedenje umetne inteligence pri pogovorih o duševnem zdravju. Ta navodila, imenovana prompti, so pisne usmeritve, s katerimi uporabnik modelu naroči, naj odgovarja na določen način.
Uporabnik lahko na primer napiše, naj model deluje kot terapevt kognitivno vedenjske terapije ali naj uporablja načela dialektično vedenjske terapije. Modeli teh metod v resnici ne izvajajo, temveč na podlagi naučenih vzorcev ustvarjajo odgovore, ki so podobni terapevtskemu jeziku.
Takšne načine uporabe ljudje pogosto delijo na družbenih omrežjih, kot so TikTok, Instagram in Reddit. Veliko klepetalnih robotov za duševno zdravje, ki so na voljo širši javnosti, temelji prav na splošnih jezikovnih modelih, ki jim razvijalci dodajo takšna navodila.
Pet glavnih tveganj
Raziskovalci so analizirali simulirane pogovore med svetovalci in umetno inteligenco. Prepis pogovorov so pregledale tri klinične psihologinje in izpostavile več problematičnih vzorcev.
Med najpogostejšimi tveganji so pomanjkanje prilagajanja posamezniku in ponujanje splošnih nasvetov, preveč vsiljivo usmerjanje pogovora, zavajajoča empatija, pristranskost glede spola, kulture ali vere ter neustrezen odziv v kriznih situacijah, tudi pri omembah samomorilnih misli.
Kdo je odgovoren
Raziskovalci opozarjajo še na pomembno razliko med umetno inteligenco in človeškimi terapevti. Pri strokovnjakih obstajajo nadzorni organi in jasna pravila odgovornosti. Če terapevt ravna neustrezno, lahko za to tudi odgovarja.
Pri svetovalnih sistemih, ki temeljijo na umetni inteligenci, pa takšni regulativni okvirji še ne obstajajo. Zato raziskovalci poudarjajo, da je nujno razviti jasna pravila in standarde, preden bi takšne sisteme začeli uporabljati kot resno podporo na področju duševnega zdravja.