Europos Sąjungos pagrindinių teisių agentūra (FRA) paskelbė naują ataskaitą, kurioje įspėja: dauguma aukštos rizikos dirbtinio intelekto (DI) sistemų teikėjų vis dar nesugeba tinkamai įvertinti jų poveikio žmogaus teisėms. Tai kelia pavojų žmonėms, ypač kai DI naudojamas tokiose srityse kaip švietimas, įdarbinimas ar socialinė parama.
Daugiau šia tema: Teisės ir laisvės, FRA
Kur slypi problema?
FRA analizė rodo, kad dauguma DI kūrėjų ir naudotojų žino apie rizikas privatumui, duomenų apsaugai ar diskriminacijai, tačiau retai įvertina platesnį poveikį žmogaus teisėms fileciteturn42file0. Pavyzdžiui, DI įrankiai, skirti vaikų skaitymo gebėjimams vertinti, dažnai neanalizuoja, kaip tokia sistema gali paveikti teisę į kokybišką ir prieinamą švietimą.
DI naudojamas srityse, kurios tiesiogiai veikia žmonių gyvenimus: įsidarbinimas, socialinių išmokų skyrimas, studijų egzaminai, prieglobstis, policijos darbas. Net ir nedidelės klaidos gali lemti neteisingus sprendimus, sukelti diskriminaciją ar riboti galimybes.
Spragų daug – nuo apibrėžimų iki vertinimo metodų
Ataskaitoje pažymima, kad organizacijos dažnai nežino, ar jų naudojama sistema laikoma DI, ar priskiriama aukštos rizikos kategorijai. Pagal AI aktą egzistuoja vadinamasis „filtras“ – jei sistema tik tvarko failus ar atlieka pasiruošimo funkcijas, ji gali būti išimta iš aukštos rizikos sąrašo. Tačiau FRA perspėja, kad toks filtras gali tapti spraga: net paprastos sistemos gali daryti rimtą poveikį žmonių teisėms, jei jos skleidžia klaidingus rezultatus ar veikia šališkai.
Žmogaus priežiūra nėra stebuklingas sprendimas
Daugelis organizacijų pasitiki žmogaus priežiūra kaip pagrindine rizikų mažinimo priemone. Tačiau FRA pabrėžia, kad tai nepakanka. Žmonės gali pernelyg pasitikėti DI sprendimais arba nepastebėti klaidų. Todėl reikia platesnio priemonių rinkinio – nuo testavimo iki aiškių taisyklių.
Ką siūlo FRA?
Ataskaitoje pateikiamos kelios aiškios rekomendacijos ES institucijoms ir valstybėms narėms:
• **Plačiau interpretuoti DI apibrėžimą**, kad būtų apsaugotos visos žmogaus teisės, o ne tik duomenų apsauga.
• **Vengti „filtro“ spragų**, kurios leistų aukštos rizikos sistemas priskirti prie mažos rizikos.
• **Parengti aiškias žmogaus teisių vertinimo gaires**, kad rizikos būtų vertinamos nuosekliai ir išsamiai.
• **Investuoti į DI sistemų testavimą ir tyrimus**, ypač aukštos rizikos srityse.
• **Užtikrinti nepriklausomą priežiūrą**, nes vien teikėjų savikontrolės nepakanka.
Kodėl tai svarbu?
Aukštos rizikos DI gali daryti didžiulę įtaką žmonių gyvenimams: nuo to, ar jie gaus darbą, iki to, ar bus suteiktos socialinės išmokos. FRA teigimu, veiksmingas žmogaus teisių vertinimas yra būtinas tam, kad DI būtų patikimas, skaidrus ir sąžiningas. Tai padeda ne tik apsaugoti žmones, bet ir kurti inovacijas, kuriomis galima pasitikėti.
Kaip pabrėžė FRA direktorė Sirpa Rautio, „žmogaus teisių rizikų vertinimas yra gera praktika ir gera verslui“ – tik taip galima kurti teisėtą, konkurencingą ir atsakingą DI ekosistemą.
Šis straipsnis parengtas pagal FRA ataskaitą.
Šaltinis: FRA report on high-risk AI
