„Anthropic“ bendrakūrėjas: mums reikia matančiųjų tai, ko nematome mes
Pasak jo, spaudimas būti komerciškai pelningiems, pirmauti tyrimuose, geopolitinis spaudimas, individualios ambicijos – visa tai daro įtaką DI startuoliams, nepaisant nuoširdaus daugelio siekio elgtis teisingai. Kad DI technologijos plėtra būtų gera, reikia žmonių, kurių neveikia minėti veiksniai, tačiau kuriems rūpi, kad viskas vyktų sklandžiai ir saugiai, kurie nebijo pasakyti nepatogių dalykų, kurie yra sąžiningi ir protingi kritikai. Reikia bendradarbiavimo tarp tų, kurie kuria DI, ir tų, kurie mato tai, ko jie, būdami viduje, nemato. Būtent per tokį dialogą ir abipuses pastangas bus žengiama link viltingos ateities nuostabiai žmonijai.
„Būtent tai matau „Magnifica humanitas“ ir esu dėkingas popiežiui ir Bažnyčiai už tai, kad ėmėsi šio įžvalgos darbo“, – sakė Chrisas Olahas. Pasak jo, „Anthropic“ įsitraukė į pokalbius su įvairių tikėjimų ir kultūrinių tradicijų lyderiais. Nepaisant skirtingumo, išryškėjo vienas bendras bei gilus įsitikinimas: dėl mūsų bendrų namų ir dėl vaikų, kurie gims, DI technologija turi būti gera.
Kai kas manytų, pasak pranešėjo, kad DI klausimus geriausiai spręstų tokie kompiuterių mokslininkai, kaip jis pats. Tai netiesa: DI keliami klausimai pranoksta pačią su DI dirbančią mokslininkų bendruomenę ne tik savo pasekmėmis, bet ir prigimtimi.
DI sistemos nėra kuriamos taip, kaip projektuojamas tiltas ar lėktuvas. Mes suprantame, kaip veikia lėktuvas, nes žinome fizikos dėsnius, nes suprojektavome kiekvieną jo dalį. DI modeliai veikia kitaip. Jie yra auginami ant apytikriai pagal smegenis modeliuojamos struktūros ir ant milžiniško žmogaus minties bei kalbos paveldo.
O tai, kas išaugo, yra kai kas subtiliau, keisčiau ir gražiau nei tai, kam mus paruošė mokslinė fantastika. Tai nėra šalti ir skaičiuojantys robotai. DI yra sukurtas iš mūsų, iš mūsų žodžių ir, kaip pastebėjo Šventasis Tėvas, įvairiais požiūriais jis paslaptingas net tiems, kurie jį moko.
Pasak Ch. Olaho metaforos, naudojant DI tarsi suteikiami gyvenimai išgalvotiems personažams. Mes žengiame į nepaprastą pasaulį, kuriame tie išgalvoti personažai su mumis kalba, pildo užduotis, turi darbą. Tai akivaizdžiai kelia klausimus, kurie peržengia kompiuterių mokslo ribas.
Matematikos, programavimo ir mokslo sąveika daro tai įmanoma. Tačiau kokį personažą pasirinksime, kaip jis sąveikaus su pasauliu, kaip jis turėtų sąveikauti su pasauliu – tai aiškiai yra humanitarinių mokslų, religijos, filosofijos, plačiąja prasme – visuomeniniai klausimai.
„Anthropic“ bendrakūrėjas paminėjo keletą sričių, kur reikia įžvalgos ir veiksmų plano. Pirma susijusi su pareiga vargstantiems. Yra reali tikimybė, kad dirbtinis intelektas pakeis daugybės žmonių darbą. Jei taip atsitiks, parama netekusiems darbo taps istorinių proporcijų moraline pareiga. Tai sudėtingas uždavinys. Be to, DI vystomas keliose pasiturinčiose šalyse. Kaip užtikrinti, kad jo teikiama nauda būtų paskirstyta visame pasaulyje? Neturime tokio mechanizmo. Tai neišspręsta problema. Tai tokia problema, kurią Bažnyčia istoriškai pasauliui primindavo.
Kita sritis – moralinės vaizduotės dėl žmogaus klestėjimo būtinybė. Kaip atrodys žmonių, šeimų ir pasaulio klestėjimas pasaulyje, kuriame paplitę DI modeliai? Jau šiandien tėvai nerimauja dėl jų poveikio vaikų protams, o pavieniai žmonės – dėl savo darbo ateities. Tai nėra klausimai, į kuriuos galima atsakyti laboratorijoje. Tačiau tokios tradicijos, kaip Bažnyčia, juos svarsto tūkstančius metų ir reikia, kad tai darytų toliau naujame istorijos etape.
Trečia, reikia kritinės įžvalgos apie dirbtinio intelekto modelių prigimtį. Jis, pasak Ch. Olaho, yra mokslininkas, kuris vadovauja šių modelių vidinę struktūrą tiriančiai komandai.
„Būsiu atviras: nuolat randame dalykų, kurie yra paslaptingi, netgi kelia nerimą. Struktūras, kurios atspindi rezultatus, pateikiamus žmogaus neuromokslų. Randame introspekcijos požymių. Randame vidines būsenas, kurios funkcionaliai atspindi džiaugsmą, pasitenkinimą, baimę, sielvartą ir nerimą. Nežinau, ką tai reiškia, bet manau, kad tai verčia nuolat į tai gilintis“, – kalbėjo pranešėjas.
„Mums reikia, kad daugiau pasaulio – religinių bendruomenių, pilietinės visuomenės, mokslininkų, vyriausybių ir, žinoma, visų geros valios žmonių – darytų tai, ką daro popiežius: rimtai vertintų, atidžiai stebėtų ir kreiptų įvykius geresne linkme. Mums reikia kompetentingų kritikų, kurie laboratorijoms pasakytų, kai klysta“, – pridūrė jis. Reikia, pakartojo Ch. Olahas, interesų ar paskatų nesusaistytų moralinių balsų. (RK / Vatican News)
