Paus Fransiskus Peringatkan Resiko AI bagi Perdamaian

matatimor.net – Paus Fransiskus Peringatkan Resiko AI bagi Perdamaian

Dalam pesannya pada Hari Perdamaian Sedunia ke-57, Paus Fransiskus merefleksikan dampak Kecerdasan Buatan terhadap perdamaian dunia, dan mendesak komunitas internasional untuk mengadopsi perjanjian internasional yang mengikat yang mengatur pengembangan dan penggunaannya.

Lisa Zengarini via vativannews.va

Teknologi baru harus selalu megarahkan pada “mengupayakan perdamaian dan kebaikan bersama, demi kepentingan pembangunan integral individu dan komunitas.”

Dalam Pesan tahunannya untuk Hari Perdamaian Sedunia , Paus Fransiskus mendesak para pemimpin dunia untuk memastikan bahwa kemajuan dalam pengembangan bentuk-bentuk kecerdasan buatan “pada akhirnya akan bermanfaat bagi persaudaraan dan perdamaian umat manusia.” 

Pesan yang bertemakan ‘Kecerdasan Buatan dan Perdamaian’ itu dirilis Vatikan pada Kamis menjelang Hari Perdamaian Sedunia ke -57, 1 Januari 2024.

Ambivalensi yang melekat pada kemajuan teknologi-ilmiah

Di dalamnya, Paus Fransiskus menarik perhatian pada “dimensi etika” dari teknologi baru yang merevolusi umat manusia di semua bidang kehidupan, menyoroti ambivalensi yang melekat dalam setiap kemajuan ilmu pengetahuan dan teknologi.

Di satu sisi, katanya, hal ini dapat mengarah pada perbaikan kemanusiaan dan transformasi dunia jika hal tersebut “berkontribusi pada ketertiban yang lebih besar dalam masyarakat manusia dan persekutuan serta kebebasan persaudaraan yang lebih besar”

Di sisi lain, kemajuan teknologi-ilmiah, khususnya di bidang digital, “memberi banyak pilihan pada tangan manusia, termasuk beberapa pilihan yang mungkin menimbulkan risiko bagi kelangsungan hidup kita dan membahayakan rumah kita bersama.”

Tidak ada inovasi teknologi yang “netral”

Pesan tersebut mengingatkan bahwa tidak ada penelitian ilmiah dan inovasi teknologi yang “netral”: “Sebagai aktivitas manusia sepenuhnya, arah yang diambil mencerminkan pilihan yang ditentukan oleh nilai-nilai pribadi, sosial, dan budaya pada zaman tertentu. Hal yang sama harus dikatakan mengenai hasil-hasil yang mereka hasilkan: tepatnya sebagai buah dari cara-cara khusus manusia dalam mendekati dunia di sekitar kita, yang terakhir selalu memiliki dimensi etis, terkait erat dengan keputusan-keputusan yang dibuat oleh mereka yang merancang eksperimen mereka dan mengarahkan produksi mereka ke arah tujuan tertentu yang sama.”

Hal ini juga berlaku pada AI, karena “dampak dari setiap perangkat kecerdasan buatan – terlepas dari teknologi yang mendasarinya – tidak hanya bergantung pada desain teknisnya, namun juga pada tujuan dan kepentingan pemilik dan pengembangnya, serta pada situasi di mana perangkat tersebut berada dan pemanfaatanya.”

Oleh karena itu, kita “tidak dapat secara apriori berasumsi bahwa perkembangannya akan memberikan kontribusi yang bermanfaat bagi masa depan umat manusia dan perdamaian antar bangsa. Hasil positif tersebut hanya akan tercapai jika kita menunjukkan diri kita mampu bertindak secara bertanggung jawab dan menghormati nilai-nilai fundamental kemanusiaan seperti ‘inklusi, transparansi, keamanan, kesetaraan, privasi, dan keandalan’”, tulis Paus Fransiskus.

Masalah etika

Oleh karena itu perlu “membentuk badan-badan yang bertugas memeriksa isu-isu etika yang timbul di bidang ini dan melindungi hak-hak mereka yang menggunakan bentuk-bentuk kecerdasan buatan atau yang terkena dampaknya.” 

“Kita mempunyai tugas untuk memperluas pandangan kita dan mengarahkan penelitian tekno-ilmiah menuju upaya mencapai perdamaian dan kebaikan bersama, demi kepentingan pembangunan integral individu dan komunitas.”

“Perkembangan teknologi yang tidak mengarah pada peningkatan kualitas hidup seluruh umat manusia, namun malah memperburuk kesenjangan dan konflik, tidak pernah bisa dianggap sebagai kemajuan sejati,” kata Paus.

Pesan tersebut selanjutnya menyoroti banyak tantangan yang timbul oleh AI yang bersifat “antropologis, pendidikan, sosial dan politik.”

Risiko bagi masyarakat demokratis

Kemampuan perangkat tertentu untuk menghasilkan teks yang koheren, misalnya, “tidak menjamin keandalannya.” Hal ini, kata Paus, “menimbulkan masalah serius ketika kecerdasan buatan digunakan dalam kampanye disinformasi yang menyebarkan berita palsu dan menyebabkan semakin besarnya ketidakpercayaan terhadap media komunikasi.” 

Penyalahgunaan teknologi ini juga dapat menimbulkan konsekuensi negatif lainnya “seperti diskriminasi, campur tangan dalam pemilu, meningkatnya pengawasan masyarakat, pengucilan digital dan semakin parahnya individualisme yang semakin terputus dari masyarakat”, yang semuanya merupakan ancaman terhadap perdamaian dunia.

Paus Fransiskus kemudian memperingatkan risiko terhadap masyarakat demokratis. Hidup berdampingan secara damai dari paradigma teknokratis dominan di balik AI dan kultus kekuatan manusia yang tidak terbatas: “Dengan mengusulkan untuk mengatasi setiap batasan melalui teknologi, dalam keinginan obsesif untuk mengendalikan segalanya, kita berisiko kehilangan kendali atas diri kita sendiri.”

Algoritma tidak boleh menentukan bagaimana kita memahami hak asasi manusia

Ia menegaskan isu-isu etika “yang membara” yang timbulkan oleh AI, termasuk diskriminasi, manipulasi, atau kontrol sosial: “Ketergantungan pada proses otomatis yang mengkategorikan individu, misalnya, melalui penggunaan pengawasan atau penerapan sistem kredit sosial, juga dapat menyebabkan hal yang sama. Mempunyai dampak besar pada tatanan sosial dengan menetapkan peringkat di antara warga negara.”

“tidak boleh membiarkan algoritma menentukan bagaimana kita memahami hak asasi manusia, mengesampingkan nilai-nilai penting kemanusiaan yaitu kasih sayang, belas kasihan, dan pengampunan”, Paus menekankan, juga menyoroti dampak teknologi baru di tempat kerja.

Persenjataan kecerdasan buatan

Paus Fransiskus mengungkapkan keprihatinan khusus terhadap “persenjataan kecerdasan buatan,” khususnya dengan mengutip Sistem Senjata Otonomi Mematikan (LAWS), yang menarik perhatian pada risiko senjata canggih berakhir di tangan teroris.

“Aplikasi teknologi tercanggih tidak boleh digunakan untuk memfasilitasi penyelesaian konflik dengan kekerasan, melainkan untuk membuka jalan bagi perdamaian.”

Sisi positifnya, Paus Fransiskus mencatat bahwa kecerdasan buatan dapat digunakan untuk mendorong pembangunan manusia seutuhnya, dengan memperkenalkan “inovasi-inovasi penting di bidang pertanian, pendidikan, dan kebudayaan, peningkatan taraf hidup seluruh bangsa dan masyarakat, dan pertumbuhan persaudaraan manusia. dan persahabatan sosial.”

Tantangan bagi pendidikan

Pesan tersebut selanjutnya menyoroti tantangan yang ditimbulkan oleh AI terhadap pendidikan generasi baru yang tumbuh “di lingkungan budaya yang dipenuhi oleh teknologi.”

Dalam hal ini, Paus menunjukkan kebutuhan mendesak untuk mendidik generasi muda dalam penggunaan kecerdasan buatan. Pendidikan ini, katanya, “pertama-tama harus bertujuan untuk mendorong pemikiran kritis.”

Perlunya perjanjian internasional untuk mengatur AI

Oleh karena itu Paus Fransiskus mendesak komunitas global negara-negara untuk bekerja sama mengadopsi perjanjian internasional yang mengikat yang mengatur pengembangan dan penggunaan kecerdasan buatan dalam berbagai bentuknya: “Skala global dari kecerdasan buatan memperjelas hal itu, di samping tanggung jawab negara-negara berdaulat. untuk mengatur penggunaannya secara internal, organisasi internasional dapat memainkan peran penting dalam mencapai perjanjian multilateral dan mengoordinasikan penerapan dan penegakan perjanjian tersebut.”

“Ini adalah doa saya di awal Tahun Baru” pesan tersebut menyimpulkan, “agar perkembangan pesat bentuk-bentuk kecerdasan buatan tidak akan meningkatkan kasus-kasus ketidaksetaraan dan ketidakadilan yang banyak terjadi di dunia saat ini, namun akan membantu mengakhiri perang. dan konflik, serta meringankan berbagai bentuk penderitaan yang menimpa keluarga umat manusia.”