Analýza vplyvu AI na médiá, komunity a nerovnosti
Isabella H. de Carvalho – Vatican News
Niekoľko dní pred zverejnením prvej encykliky pápeža Leva XIV. Magnifica humanitas, venovanej ochrane ľudskej osoby v ére umelej inteligencie, zhromaždilo vatikánske Dikastérium pre komunikáciu akademikov z rôznych kútov sveta, expertov na technológie, novinárov a ďalších odborníkov, aby sa zamysleli a diskutovali práve o tejto téme.
Téma medzinárodnej konferencie „Zachovanie ľudských hlasov a tvárí“ nadväzuje na posolstvo pápeža Leva XIV. ku 60. svetovému dňu spoločenských komunikačných prostriedkov (slávenému v nedeľu 17. mája) a zameriava sa na vplyv AI na život jednotlivcov, komunít a národov.
Podujatie sa konalo 21. mája na Pápežskej univerzite Urbaniana v Ríme a bolo organizované v spolupráci s vatikánskym Dikastériom pre kultúru a vzdelávanie a Nadáciou Jána XXIII.
Čo dnes znamená zachovávať
„Zachovávať“ je slovo, ktoré nás vyzýva. Znamená „starať sa o niekoho s láskou a zodpovednosťou,“ povedal Paolo Ruffini, prefekt Dikastéria pre komunikáciu, vo svojom úvodnom príhovore.
„Najväčšie nebezpečenstvo,“ pokračoval, „spočíva v pasívnom prijatí predstavy, že poznanie nám už viac nepatrí; a že niečo, čo sme sami vytvorili – algoritmy, platformy alebo automatizované systémy – môže byť poverené tým, aby myslelo za nás, úplne programovalo naše životy a dokonca aj spôsob, akým komunikujeme s ostatnými.“
Kardinál José Tolentino de Mendonça, prefekt Dikastéria pre kultúru a vzdelávanie, vo svojom úvode zdôraznil, že téma „zachovania ľudských hlasov a tvárí“ je „programom – ba dokonca vyznaním viery v ľudskosť – v čase, keď sa hranice medzi realitou a simuláciou čoraz viac rozmazávajú.“
„Ľudské bytosti nikdy nemožno zredukovať na štatistiku, profil alebo algoritmus. To, čo je ľudské, je vždy niečím viac – tajomstvom, výzvou,“ povedal.
Kardinál zdôraznil, že „zachovávanie neznamená uzamknúť niečo do vitríny,“ ale skôr „chrániť to, čo je krehké, aby to mohlo ďalej rozkvitať“ – napríklad ľudské hlasy a tváre, ktoré môžu byť „klonované, manipulované, umlčané“, ale aj „znovuzrodené pri každom skutočnom stretnutí.“
Vplyv AI na žurnalistiku, spoločnosť a komunitu
Dopoludňajšie zasadnutia boli venované téme „Byť alebo nebyť: simulovanie vzťahov a reality“, pričom prvý panel sa zaoberal dopadom AI na žurnalistiku, spoločnosť a komunitu.
Marijana Grbeša Zenzerovićová, profesorka na Univerzite v Záhrebe a podpredsedníčka Výboru expertov pre online bezpečnosť a podporu tvorcov a používateľov obsahu pri Rade Európy, upozornila na to, že umelá inteligencia narušila žurnalistiku, spôsob konzumácie správ aj politickú komunikáciu prostredníctvom javov ako dezinformácie či tzv. rage baiting (zámerné provokovanie hnevu – pozn. prekladateľa) a iné.
Poznamenala, že už dnes žijeme v tom, čo sa pred rokmi zdalo byť „najtemnejším scenárom“, pretože ľudia už neveria nikomu ani ničomu. Dodala však, že riešenie vidí v troch pilieroch, ktoré pápež Lev XIV. označil vo svojom posolstve ku Svetovému dňu spoločenských komunikačných prostriedkov: vzdelávanie, zodpovednosť a spolupráca.
Eli Pariser, spoluzakladateľ a spoluriaditeľ organizácie New_Public – neziskovej organizácie zameranej na budovanie digitálnych verejných priestorov, kde môžu ľudia prosperovať, rozvíjať sa a nadväzovať vzťahy – vo svojom vystúpení zdôraznil, že „dnes máme k dispozícii aj inú cestu“, pokiaľ ide o AI, pretože ju možno navrhnúť buď ako parazitickú, alebo prosociálnu.
„Potrebujeme pozitívnu víziu ľudskej spoločenskosti, ktorá bude spolunažívať so svetom mocnej umelej inteligencie a bude ním podporovaná,“ povedal. Zdôraznil, že táto myšlienka môže spojiť tvorcov politík naprieč politickým spektrom, náboženské inštitúcie i ďalších aktérov.
Následne Kashmir Hillová, technologická reportérka denníka The New York Times, opísala, ako vo svojej novinárskej práci videla mnohých ľudí, ktorí stratili kontakt s realitou tým, že si vytvorili vzťahy s AI chatbotmi. Zdôraznila však, že riziko neschopnosti rozlíšiť, čo je skutočné a pravdivé, sa týka všetkých používateľov týchto systémov.
Vineet Khosla, technologický riaditeľ The Washington Post, zase vysvetlil, ako sa snažia robiť „ambicióznu žurnalistiku“ vytváraním AI nástrojov, ktoré môžu podporovať ich reportérov a zlepšovať ich prácu. Znamená to napríklad presunutie niektorých úloh na AI alebo pomoc čitateľom pri hľadaní spoľahlivých informácií vytvorených redakciou.
„Už existuje generácia používateľov, ktorá sa obracia na umelú inteligenciu, aby získala správy,“ povedal. „Chceme byť tam, kde sa už nachádza ďalšia generácia konzumentov správ, a ukázať im, že existuje správny spôsob, ako prijímať správy.“
Prehlbujú AI modely sociálne nerovnosti a nespravodlivosť?
Druhý dopoludňajší panel sa venoval otázke, či AI modely prehlbujú sociálne nerovnosti a nespravodlivosť. Paola Ricaurte Quijanová, profesorka na Katedre médií a digitálnej kultúry na Tecnológico de Monterrey v Mexiku, vysvetlila, „ako dominantný model vývoja AI reprodukuje štrukturálne násilie a nerovnosť na makro-, mezo- aj mikroúrovni,“ čo neprimerane zasahuje komunity a krajiny na okraji spoločnosti.
Uviedla napríklad, že AI chatbot nedokázal napísať text v jazyku Mixe – domorodom jazyku, ktorým v Mexiku hovorí viac než 100 000 ľudí. „Pre tento systém teda tisícročný jazyk, poznanie a komunita jednoducho neexistovali.“
„Komu umelá inteligencia škodí, akým spôsobom a čie životy, telá, tváre, hlasy a poznanie sa vlastne považujú za dôležité?“ spýtala sa.
Benjamin Rosman, profesor informatiky a aplikovanej matematiky a riaditeľ inštitútu MIND na Univerzite Witwatersrand v Južnej Afrike, zdôraznil, že svet momentálne zažíva preteky vo vývoji AI a že skutočná nerovnosť nespočíva medzi tými, ktorí AI majú, a tými, ktorí ju nemajú, ale medzi tými, ktorí majú možnosť ju formovať.
Poznamenal, že sa snaží budovať komunitné iniciatívy a hnutia naprieč africkými krajinami, ktoré by zapojili ľudí do globálnej diskusie o AI.
„Ak budú budúcnosť komunikácie, dôvery a simulovaných vzťahov formovať iba hŕstka spoločností, krajín a svetonázorov, výsledok nebude odrážať bohatstvo ľudstva,“ povedal.
Napokon Joy Buolamwiniová, zakladateľka organizácie Algorithmic Justice League, aktivistka a poetka, upozornila na osud „excoded“ – termín, ktorým označuje „tých, ktorí žijú nočné mory diskriminácie a vykorisťovania spôsobeného AI.“
Patria sem umelci, ktorým sú kradnuté ich diela, ľudia zabíjaní vojenskými systémami využívajúcimi AI na identifikáciu cieľov, ako aj osoby nesprávne identifikované prostredníctvom AI systémov.
„Ešte nie je neskoro odhaliť pravú tvár AI a chrániť to, čo je ľudské vo svete strojov,“ povedala.
Preklad sr. Jana Pavla Halčinová DKL
Ďakujeme, že ste si prečítali tento článok. Ak chcete byť informovaní o novinkách, prihláste sa na odber noviniek kliknutím sem.
