Kardinal Bo kepada para legislator: Upayakan pelarangan senjata mematikan otonom
Oleh Deborah Castellano Lubov
“Dengan membiarkan algoritma secara diam-diam mengemas terlebih dahulu apa yang dibaca, dibeli, diyakini, dan dihargai oleh warga kita, kita secara sistematis memperlakukan seluruh masyarakat seperti anak-anak.”
Kardinal Charles Maung Bo, Uskup Agung Yangon dan Presiden Konferensi Waligereja Katolik Myanmar, menyampaikan peringatan tersebut dalam pidato utamanya kepada para anggota parlemen Kristen dan pemimpin politik yang berkumpul di Assisi pada hari Senin dalam acara bertajuk “Panggilan Mendesak bagi Para Pemimpin Kristen untuk Menjadi Pembawa Damai yang Efektif.”
Pidato utama Kardinal Bo berfokus pada tema “Panggilan Mendesak bagi Para Pemimpin Kristen untuk Menjadi Pembawa Damai yang Berpusat pada Kristus di Era Digital,” yang memadukan tema-tema acara tersebut mengenai martabat manusia, kecerdasan buatan, dan perdamaian.
Sang Kardinal memperingatkan tentang dampak psikologis dari transisi teknologi yang tidak diarahkan dengan baik. Menurutnya, masyarakat berisiko “membentuk seluruh generasi untuk menggantikan pertimbangan rasional dan moral dengan lingkaran umpan balik prediktif yang menimbulkan kecanduan.”
“Ini adalah jalan berbahaya yang mengarah pada musim dingin demokrasi dan munculnya otokrasi dengan konsekuensi yang membawa bencana,” katanya.
Menolak perang yang diotomatisasi
Kardinal Bo menyerukan penolakan total terhadap perang dan otomatisasi pembunuhan. Ia memperingatkan bahwa kecerdasan buatan berisiko menurunkan ambang moral terhadap kekerasan.
Menurutnya, mesin “tidak dapat memiliki niat yang benar atau memahami kesedihan, belas kasih, maupun nilai sakral kehidupan manusia.” Mesin, tegasnya, “hanya dapat menjalankan optimalisasi statistik.”
“Mengotomatisasi medan perang,” katanya, “berarti menurunkan ambang moral terhadap kekerasan, menyingkirkan hati nurani manusia dari konflik, dan mengubah putra-putri serta warga negara kita menjadi sekadar titik-titik data tanpa darah.”
“Oleh karena itu, sebagai wakil rakyat,” katanya, “mandat Anda jelas: Anda harus memperjuangkan segera diberlakukannya larangan internasional yang mengikat terhadap senjata mematikan yang sepenuhnya otonom.”
Di tengah zaman yang secara khusus dilanda perang global, keresahan sipil, dan gejolak ekonomi, Kardinal Bo mengatakan bahwa para pemimpin Kristen dipanggil untuk menempuh jalan alternatif yang berpusat pada perdamaian dan keadilan.
“Perdamaian bukan sekadar ketiadaan perang; sebagaimana dinyatakan dengan indah oleh Paus Leo XIV, ‘perdamaian adalah keadilan yang bekerja,’” katanya.
Kemakmuran dan martabat manusia
Terakhir, Kardinal Bo menyebut kemakmuran bagi semua orang sebagai tujuan penting lainnya. Ia menekankan bahwa teknologi harus melayani manusia, bukan mereduksi manusia menjadi komoditas.
Kemakmuran sejati, katanya, “menuntut agar teknologi mengangkat kreativitas manusia dan meringankan pekerjaan yang berbahaya tanpa mengubah manusia menjadi roda-roda penggerak yang dapat dibuang.”
Kardinal juga mengamati bahwa banyak perusahaan teknologi kecerdasan buatan sedang mencari bimbingan, bahkan batasan dan pagar pengaman.
“Itulah tugas kita,” katanya.
Dalam sebuah pengakuan yang menunjukkan kerendahan hati, ia mengatakan bahwa sejumlah eksekutif teknologi telah “secara terbuka menyambut campur tangan moral Gereja” dan “mencari bantuan dari pihak luar—para filsuf, para pemimpin spiritual, dan yang terpenting, Anda, para legislator terpilih—untuk menetapkan batas-batas moral yang tegas, yang tidak dapat mereka tetapkan sendiri secara hukum maupun komersial.”
Para pemimpin teknologi mencari bimbingan
Para arsitek masa depan digital, kata Kardinal Bo, meminta adanya tata kelola dan mengakui bahwa meskipun mereka memahami teknologinya, mereka tidak memiliki semua jawaban mengenai martabat manusia.
“Jika Anda menolak untuk mengatur, jika Anda menerima mitos tentang keniscayaan teknologi, Anda sedang melepaskan tugas berdaulat Anda terhadap rakyat yang telah memilih Anda.”
Dengan menyerukan kepada para pembuat undang-undang agar tampil sebagai pemimpin sejati, Kardinal Bo mendesak mereka untuk “menetapkan pagar pengaman hukum yang mengikat, menuntut transparansi perusahaan, menolak otomatisasi pembunuhan manusia, dan memastikan bahwa teknologi tetap sepenuhnya mengabdi kepada kemanusiaan luhur yang telah dipercayakan Allah kepada pemeliharaan kita.”
