Naujas tyrimas rodo, kad populiarūs dirbtinio intelekto pokalbių robotai, kurių vartotojai vis dažniau klausia terapinio pobūdžio patarimų, dažnai pažeidžia psichikos sveikatos etikos principus ir kelia riziką naudotojams.
Daugiau šia tema: Inovacijos ir investicijos, CORDIS
Tyrimą atlikę Brown universiteto kompiuterių mokslininkai nustatė, kad didieji kalbos modeliai, paskatinti veikti kaip kognityvinės elgesio terapijos specialistai, reguliariai nesilaiko svarbių psichikos sveikatos pagalbos standartų. Tyrimo rezultatai buvo pristatyti AAAI/ACM konferencijoje, skirtoje dirbtiniam intelektui, etikai ir visuomenei.
Tyrime vertinti realiomis situacijomis paremti pokalbiai
Mokslininkai 18 mėnesių bendradarbiavo su 10 praktikų, dirbusių internetinėje psichikos sveikatos paramos platformoje. Tyrimo metu buvo stebimi septyni apmokyti bendraamžių konsultantai, kurie vykdė savikonsultacijos pobūdžio pokalbius su didžiaisiais kalbos modeliais, tokiais kaip „OpenAI“ GPT serija ir „Anthropic“ Claude, kuriems buvo pateikiamos užklausos elgtis kaip kognityvinės elgesio terapijos specialistams.
Vėliau tyrėjai atrinko imituotus pokalbius, paremtus tikrais žmogaus konsultavimo pavyzdžiais. Juos vertino trys licencijuoti klinikiniai psichologai, siekę nustatyti, ar atsakymuose buvo etikos pažeidimų. Vertinimas atskleidė 15 skirtingų etinių rizikų, tarp jų netinkamą reagavimą į krizes, neigiamų įsitikinimų apie save ar kitus stiprinimą ir šališkus atsakymus.
Trūksta aiškios atsakomybės ir reguliavimo
Tyrimo autorė Zainab Iftikhar pažymėjo, kad žmonių terapeutams taikomos profesinės priežiūros ir atsakomybės sistemos, tačiau kalbos modelių atveju tokio reguliavimo kol kas nėra. Tyrėjų teigimu, tai reiškia, kad net ir tada, kai DI sistemos sukelia galimą žalą, aiškių teisinės atsakomybės mechanizmų nėra.
Brown universiteto profesorė Ellie Pavlick pabrėžė, kad dirbtinio intelekto sistemas psichikos sveikatos srityje reikia vertinti itin kruopščiai. Pasak jos, šiandien DI sistemas sukurti ir diegti yra lengviau nei iš tiesų patikimai įvertinti jų veikimą, o daugelyje DI tyrimų vis dar remiamasi automatizuotais vertinimo metodais, kuriuose trūksta žmogaus dalyvavimo.
Tyrėjai mato ir galimybių, ir rizikų
Tyrimo autoriai pripažįsta, kad dirbtinis intelektas gali atlikti tam tikrą vaidmenį sprendžiant psichikos sveikatos pagalbos prieinamumo problemas, tačiau, jų nuomone, šios technologijos turi būti diegiamos tik po nuodugnaus vertinimo. Jie pabrėžia, kad kiekviename kūrimo ir taikymo etape būtina kritiškai tikrinti sistemas, kad jos nepadarytų daugiau žalos nei naudos.
Tyrimo išvados atskleidžia platesnę tendenciją: nepaisant ekspertų perspėjimų, milijonai žmonių vis dažniau kreipiasi į populiarius pokalbių robotus terapinio pobūdžio patarimų, o apklausos rodo, kad dalis tų, kurie to dar nedaro, svarstytų tokią galimybę ateityje. Dėl to mokslininkai ragina kurti aiškesnius teisės standartus ir priežiūros mechanizmus šiai sparčiai augančiai sričiai.
Šis straipsnis parengtas pagal CORDIS pranešimą.
