Tyrimas: kaip tikroviški tapo DI kuriami veidai?
Naujas Swansea universiteto tyrimas atskleidė, kad žmonės sunkiai atpažįsta DI sukurtus veidus – net tada, kai gerai pažįsta realų asmenį.
Daugiau šia tema: Inovacijos ir investicijos, CORDIS
Dalyviai neatpažino nei naujų, nei gerai žinomų veidų
Naudodami DALL·E ir ChatGPT modelius, tyrėjai sukūrė tiek išgalvotus, tiek žinomų asmenų – įskaitant įžymybes – veidus. Tyrimo dalyviai negebėjo patikimai atskirti tikrų nuotraukų nuo DI sukurtų, net tada, kai gerai žinojo, kaip atrodo konkretus žmogus. Šie rezultatai dar kartą parodo augantį vadinamąjį „deepfake realistiškumą“ – dirbtinai sukurtų vaizdų gebėjimą apgauti žmogaus suvokimą.
Tyrimo bendraautoris, Swansea universiteto psichologijos profesorius Jeremy Tree, pabrėžė:
*„Kasdieniai DI įrankiai gali generuoti tiek naujų, tiek žinomų veidų atvaizdus, kurie yra praktiškai neatskiriami nuo tikrų. Tai kelia rimtų iššūkių kovojant su dezinformacija ir išryškina skubią patikimų aptikimo metodų reikmę.“*
Bandymuose žmonės klydo itin dažnai
Viename eksperimente dalyviai iš Australijos, Kanados, Naujosios Zelandijos, Jungtinės Karalystės ir JAV turėjo nustatyti, kurie veidai yra tikri, o kurie – dirbtiniai. Jie dažnai supainiodavo DI sukurtus naujus veidus su tikrais.
Kitame bandyme tiriamieji bandė atskirti tikras Holivudo žvaigždžių – Jake’o Gyllenhaalo, Olivios Wilde ir kitų – nuotraukas nuo jų DI generuotų versijų. Rezultatai buvo panašūs: tikrus veidus atpažinti buvo labai sunku.
„Šis tyrimas rodo, kad DI gali sukurti tiek naujus, tiek pažįstamus veidus, kurių dauguma žmonių neatskiria nuo tikrų fotografijų“, – teigė Tree.
Kodėl pažįstami veidai nebepadeda?
Tyrėjai pažymi, kad net geras žmogaus veido žinojimas ar turimos nuotraukos duoda labai nedaug naudos identifikuojant padirbtus vaizdus.
*„Kadangi tiek pažįstamumas, tiek turimi atvaizdai suteikė tik ribotą naudą, būtina kuo skubiau ieškoti alternatyvių sprendimų“,* – nurodoma ataskaitoje.
Nors ateityje automatizuotos sistemos gali pranokti žmones atpažįstant deepfake turinį, tyrėjai perspėja, kad kol kas žiūrovams patiems tenka įvertinti, kas yra tikra. Tai reiškia, kad patikimų techninių sprendimų paieška turi tapti prioritetu.
*Šis straipsnis parengtas pagal CORDIS informaciją.*
Šaltinis: https://cordis.europa.eu/article/id/462091-can-you-tell-if-an-image-is-real
