Rizika ir galimybės: kaip AI kelia grėsmę ir saugo saviraiškos laisvę

Rizika ir galimybės: kaip AI kelia grėsmę ir saugo saviraiškos laisvę

Keine genaue Adresse oder Ort angegeben. - Pasaulyje, kuriame vis dažniau vyksta skaitmeninė komunikacija per socialinę žiniasklaidą, turinio moderavimo vaidmuo tampa vis svarbesnis. Vis labiau naudojami generaciniai AI, ypač dideli balso modeliai (LLM). Tačiau kaip tai daro įtaką žmogaus teisėms ir demokratinėms struktūroms? Neseniai paskelbta Europos ne pelno įstatymo (ECNL)

Ataskaitoje pavadinimu „Algoritminiai vartininkai: LLM turinio moderavimo poveikis žmogaus teisėms“ nagrinėja galimybes ir iššūkius, atsirandančius dėl LLM naudojimo turinio moderavimui. Autorė Marlena Wisniak, patyręs saikingo kraštovaizdžio specialistė, anksčiau dirbo „Twitter“ ir pateikia vertingų įžvalgų iš ankstesnio darbo. ECNL daugiau nei 20 metų siekia „Civic Space“ ir „Žmogaus teisių“ sąsajų, o naujausia jos analizė yra vieno metų tyrimų projekto, kurį palaiko „Omidyar Network“, rezultatas.

LLMS

LLMS naudojimas gali turėti teigiamą poveikį procedūrinėms teisėms. Tai įgalina individualizuotas moderavimo parinktis ir vartotojams teikia vertingą informaciją prieš skelbiant turinį. Tai galėtų padėti skatinti pagarbesnį sambūvį skaitmeniniuose patalpose. Tačiau šios galimybės taip pat kyla kartu su didele rizika. Remiantis ataskaita, LLM gali padidinti esamą neteisybę ir sukelti bendrą cenzūrą. Visų pirma, atskirtos grupės gali būti traktuojamos netolygiai dėl klaidingų teigiamų ar neigiamų įvertinimų, kurie kelia pavojų jų saviraiškos laisvei ir privatumui.

pavojai netgi eina taip toli, kad abejojama nuosaikumo tikslumu. AI sukurtas turinys gali sukelti dezinformaciją ir haliucinacijas, kurios kelia pavojų teisei gauti teisingą informaciją. Ataskaitoje taip pat atkreipiamas dėmesys į tai, kad esant didžiuliai nuosaikios galios koncentracijai rankose, mažiau aktorių galėtų būti standartizuoti cenzūrą, pagrįstą klaidingais modeliais.

Atsakingo nuosaikumo rekomendacijos

ECNL ataskaitų teikimas siūlo keletą svarbių politinių sprendimų priėmėjų rekomendacijų. Reikėtų vengti privalomo LLM naudojimo. Vietoj to, labai svarbu integruoti žmogaus sprendimus į nuosaikumo procesą ir įgyvendinti skaidrumo ir atskaitomybės mechanizmus. Be to, prieš naudojant LLM, taip pat reikėtų įvertinti žmogaus teisių poveikį, kad būtų galima atpažinti ir nustatyti galimą neigiamą poveikį ankstyvoje stadijoje.

Kitas įdomus ataskaitos aspektas yra poreikis geresnio techninių ekspertų ir pilietinės visuomenės bendradarbiavimo. Tai yra vienintelis būdas užtikrinti, kad saikingumo praktika būtų veiksminga ir etiška. Akivaizdu, kad LLM naudojimas neturi būti atliekamas be kruopštų svarstymų. Atvirame ir demokratiniame kontekste turinio moderavimo įtaka yra didžiulė: ji gali turėti didelę įtaką turinio matomumui, taigi ir viešoms diskusijoms.

Svarbios analizės žinios rodo, kad LLM naudojimas ne tik technologinė problema, bet ir socialinė. Ataskaitoje pabrėžiama, kad nors LLM gali padidinti efektyvumą, kurio naudojimas taip pat gali atkurti esamą skaitmeninės nelygybės ir diskriminacijos riziką. Todėl būtina įtraukti tų, kuriuos paveikė efektai, balsus, kad būtų užtikrintas sąžiningas ir sąžiningas nuosaikumas.

Apskritai ataskaita rodo, kad mes esame kupini galimybių per tą laiką, bet taip pat kupini pavojų. Turime rasti tinkamą pusiausvyrą tarp technologinės pažangos ir būtinų žmogaus teisių. Taip pat cigi rodo augančius iššūkius ir tai, kaip tai gali sudaryti diskursą skaitmeniniuose kambariuose. Galų gale išlieka pagrindinis klausimas: kokią atsakomybę technologijų kompanijos prisiima siekdamos skatinti sąžiningą ir įskaitant skaitmeninę aplinką?