Vienas dirbtinio intelekto saugumo tyrėjų JAV bendrovėje „Anthropic“ netikėtai paliko darbą, viešai paskelbęs įspėjimą, kad „pasaulis yra pavojuje“.
Daugiau šia tema: Pasaulio naujienos, Už Sąjungos ribų
Savo atsistatydinimo laiške, kuriuo pasidalijo socialiniame tinkle „X“, Mrinankas Sharma teigė nusprendęs pasitraukti iš AI sektoriaus dėl augančių grėsmių, susijusių ne tik su dirbtiniu intelektu, bet ir su biologiniais ginklais bei platesne, tarpusavyje susijusių krizių visuma.
Pasak tyrėjo, jis ketina grįžti į Jungtinę Karalystę, studijuoti poeziją, rašyti ir kuriam laikui „tapti nematomu“. Tai – dar vienas ryškus pavyzdys, kai aukšto lygio AI specialistai viešai išreiškia abejones dėl krypties, kuria juda sparčiai besivystanti technologijų sritis.
Sharma vadovavo komandai, tyrusiai dirbtinio intelekto saugumo mechanizmus. Tarp jo darbų buvo generatyvinio AI polinkio pataikauti naudotojams analizė, su AI susijusių bioterorizmo rizikų vertinimas bei klausimas, ar skaitmeniniai asistentai ilgainiui nedaro žmonių mažiau žmogiškų. Nors jis teigė vertinęs laiką bendrovėje, tyrėjas pripažino vis dažniau matęs, kaip sunku technologijų įmonėms realiai vadovautis deklaruojamomis vertybėmis, kai susiduriama su verslo ir konkurencijos spaudimu.
Anthropic save pozicionuoja kaip „viešosios naudos bendrovę“, siekiančią mažinti pažangaus dirbtinio intelekto rizikas ir užtikrinti, kad technologija išliktų suderinta su žmogaus vertybėmis. Vis dėlto pastaraisiais metais įmonė, kaip ir kiti sektoriaus lyderiai, susidūrė su kritika – nuo teisminių ginčų dėl autorių teisių iki diskusijų apie AI komercializavimą.
Sharmos pasitraukimas sutapo su kitais garsiais atsistatydinimais. Šią savaitę apie išėjimą pranešė ir buvusi OpenAI tyrėja, kritikavusi sprendimą pradėti rodyti reklamas pokalbių robote. Pasak jos, tokia praktika gali sudaryti prielaidas subtiliam naudotojų manipuliavimui, nes žmonės dirbtiniam intelektui patiki itin jautrią asmeninę informaciją – nuo sveikatos baimių iki egzistencinių klausimų.
Šie pasitraukimai atskleidžia augančią įtampą technologijų pasaulyje: tarp siekio greitai diegti naujoves ir būtinybės išlaikyti etinius bei visuomeninius principus. Kai kuriems tyrėjams, panašu, ši įtampa tapo per didelė – ir jie renkasi visiškai kitą kelią, net jei tai reiškia pasitraukimą iš vienos pelningiausių ir įtakingiausių šiuolaikinių industrijų.
Šis straipsnis parengtas remiantis tarptautiniais žiniasklaidos šaltiniais.
Šaltinis: tarptautinė žiniasklaida
