Заставацца людзьмі ў эпоху алгарытмаў
Андрэа Тарніелі / Адаптацыя: Марыя Валодзіна
У эпоху штучнага інтэлекту, калі чалавечая годнасць аказваецца пад пагрозай з боку бескантрольнай тэхналагічнай улады і новых форм дэгуманізацыі, Папа Леў XIV нагадвае пра “тэрміновы абавязак” – заставацца глыбока чалавечнымі, - падкрэсліў Андрэа Тарніелі ў сваёй аўтарскай калонцы на партале “Vatican News”.
У эпоху палярызацыі і гвалту, калі ўсё шырэй распаўсюджваецца “культура моцы” і вайна рэабілітуецца як інструмент міжнароднай палітыкі, Наступнік Пятра заклікае развіваць тэхналогіі, "не дазваляючы сэрцу дэградаваць". Ён заахвочвае нас прыняць абмежаванасць і ўразлівасць чалавечай прыроды, не лічачы іх, як гэта робіць тэхнакратычная ідэалогія, памылкай, якую трэба выправіць. Ён заклікае нас глядзець на свет не вачыма ўладароў, а знізу, вачыма тых, хто пакутуе, апошніх. Вачыма Бога, Які ўзяў на Сябе нашу слабасць і ператварыў яе ў прастору збаўлення, бо “нават калі машыны пераўзыходзяць па эфектыўнасці, у цэнтры гісторыі застаецца чалавечы твар, які просіць, каб яго бачылі”.
“Magnifica humanitas” – першая энцыкліка Льва XIV – не аналітычны тэкст аб штучным інтэлекце. Яна не паглыбляецца ў дэталі працэсаў, якія пастаянна змяняюцца. Гэта, хутчэй, падсумаванне, якое прымяняе прынцыпы сацыяльнага вучэння Касцёла да нашых часоў – эпохі ШІ, замацоўваючы і абнаўляючы ключавыя палажэнні папскага магістэрыума. Гэта і дакумент, які ставіць кропку ў непаразуменні тых, хто, спадзеючыся на абсалютную свабоду рынкаў і новых тэхналогій, схільны лічыць толькі прыватным меркаваннем папскае вучэнне аб неабходнасці агульнага чалавечага кіравання ШІ, аб інтэгральнай экалогіі, аб эканамічных структурах, якія ператвараюцца ў "структуры граху", аб непрымальнасці вайны.
Папа, які ўзяў імя аўтара “Rerum novarum”, заклікае кожнага з нас узяць на сябе актыўную ролю ў час лічбавай рэвалюцыі, таму што будаўніцтва “цывілізацыі любові” ажыццяўляецца дзякуючы “суме невялікіх і стойкіх перакананняў”, здольных спыніць дэгуманізацыю. Гэта задача напрамую датычыцца ўсіх нас. Леў XIV нагадвае, што "несправядлівасць нараджаецца не толькі з-за памылковага выбару асобных людзей, але і з-за структур, механізмаў, эканамічных і культурных структур, якія спараджаюць няроўнасць", і што гэта “нечалавечае развіццё, якое павялічвае спажыванне адных, перакладаючы выдаткі і раны на іншых, або асуджае цэлыя рэгіёны на падпарадкаванае становішча”, як, на жаль, адбываецца сёння ў сферы новых тэхналогій і рэсурсаў, якіх яны патрабуюць.
У энцыкліцы падкрэсліваецца, што сацыяльная функцыя прыватнай уласнасці з'яўляецца “пэўнай дактрынай” Касцёла. Сёння да ўніверсальных выгод, прызначаных для ўсіх "мы павінны прылічыць і новыя формы ўласнасці: патэнты, алгарытмы, лічбавыя платформы, тэхналагічную інфраструктуру, даныя", каб прадухіліць з'яўленне і ўмацаванне новых формаў выключэння і пазбаўленні волі. Тэхналогія па сваёй сутнасці не з'яўляецца проста інструментам. Калі яна становіцца крытэрыем і "пачынае вызначаць, што мае значэнне, а што можна адкінуць", ператвараючы "людзей у шасцярэнькі сістэмы, якую трэба рабіць усё больш эфектыўнай".
Сёння кантроль над платформамі, інфраструктурай, данымі і вылічальнымі магчымасцямі "з'яўляецца прэрагатывай не дзяржаў, а буйных эканамічных і тэхналагічных гульцоў", якія вызначаюць умовы доступу, правілы празрыстасці і самі магчымасці ўдзелу. Сканцэнтраваная ў руках нешматлікіх, такая ўлада "мае тэндэнцыю станавіцца непразрыстай і выслізгваць ад грамадскага кантролю", несучы рызыку скажонага развіцця, "якое спараджае новыя формы залежнасці, адчужэння, маніпуляцыі і няроўнасці".
Падкрэсліваючы важнасць пераадолення тэорыі "справядлівай вайны", Папа заклікае падпарадкаваць выкарыстанне штучнага інтэлекту ў ваеннай сферы строгім этычным абмежаванням, бо "няма алгарытму, здольнага зрабіць вайну маральна прымальнай". Акрамя таго, штучны інтэлект стаў ключавым фактарам фарміравання грамадскай думкі праз маніпуляванне выявамі і кантэнтам, што робіць усё больш складаным распазнаванне праўды і хлусні. Шмат нявызначанасці існуе і на рынку працы. Таму энцыкліка нагадвае, што ўжо нельга спадзявацца толькі на самарэгуляцыю рынку: менавіта палітыка павінна накіроўваць эканамічную і тэхналагічную дынаміку да агульнага дабра, садзейнічаючы годнай працы, сацыяльнай інтэграцыі і справядліваму размеркаванню плёнаў інавацый.
Заставацца людзьмі, кіраваць працэсамі, пазбягаючы – і ў гэтай сферы – манаполій, якія ў канчатковым выніку памнажаюць уладу нямногіх за кошт існавання большасці – вось шлях, прапанаваны Пантыфікам. Ён не ўзводзіць барыкады і не адхіляе апрыёры выкарыстанне ШІ. Ён прама гаворыць пра яго шматлікія станоўчыя аспекты і карысныя формы прымянення, але ў той жа час тлумачыць, што недастаткова ставіць толькі этычнае пытанне пра добрыя ці дрэнныя мэты яго выкарыстання.
Важна прымаць меры на ранніх этапах і спытаць сябе, як пабудавана сістэма і якая ідэя пра чалавека і грамадства закладзена ў даныя і мадэлі, якія яе вызначаюць. Для гэтага патрабуюцца належныя прававыя рамкі, незалежны нагляд, адукацыя карыстальнікаў і, перш за ўсё, зноў жа, “палітыка, якая не адмаўляецца ад сваёй задачы”. У адваротным выпадку перамены будуць падпарадкоўвацца толькі тэхнакратычнай логікай, выглядаць як "неабходныя і непазбежныя", а правілы будуць дыктаваць тыя, хто валодае данымі, інфраструктурай і вылічальнымі магчымасцямі. Таму неабходна "раззброіць" ШІ, гэта значыць "разарваць гэтую тоеснасць паміж тэхнічнай уладай і правам на кіраванне". Не дзеля адмовы ад тэхналогій, а каб яны не дамінавалі над чалавекам: яны павінны стаць прадметам абмеркавання, спрэчак і, такім чынам, прыдатнымі для жыцця. Проста каб не адрачыся ад нашай чалавечнасці, такой уразлівай і “цудоўнай”, - заключыў галоўны рэдактар ватыканскіх СМІ.
