Paus Leo XIV telah mengeluarkan peringatan baru tentang dampak negatif kecerdasan buatan (AI) terhadap “perkembangan intelektual dan neurologis” generasi mendatang, bersamaan dengan seruan untuk menghadapi “hilangnya rasa kemanusiaan” yang dialami masyarakat.
“Kita semua, saya yakin, prihatin terhadap anak-anak dan kaum muda, serta kemungkinan konsekuensi penggunaan AI terhadap perkembangan intelektual dan neurologis mereka,” kata Bapa Suci dalam pesannya pada hari Jumat kepada para peserta Konferensi tahunan kedua tentang Kecerdasan Buatan, Etika, dan Tata Kelola Perusahaan, yang diadakan pada tanggal 19–20 Juni di Roma.
Produk luar biasa dari kejeniusan manusia, namun tetap merupakan sebuah alat
Meskipun AI “tidak diragukan lagi merupakan produk luar biasa dari kejeniusan manusia,” ia menggarisbawahi, seperti yang dilakukan Paus Fransiskus di masa lalu, bahwa AI, “di atas segalanya, adalah ‘sebuah alat.'”
Mengakui dan menghormati apa yang menjadi ciri khas unik manusia sangat penting dalam pembahasan kerangka etika yang memadai untuk tata kelola AI.
“Kita semua, saya yakin, prihatin terhadap anak-anak dan kaum muda, serta kemungkinan konsekuensi penggunaan AI terhadap perkembangan intelektual dan neurologis mereka.”
“Generasi muda kita,” tegasnya, “harus dibantu, dan bukan dihalangi, dalam perjalanan mereka menuju kedewasaan dan tanggung jawab sejati,” seraya menggarisbawahi bahwa mereka “adalah harapan kita untuk masa depan.”
“Kesejahteraan masyarakat,” ia juga menggarisbawahi, “bergantung pada kemampuan yang diberikan kepada mereka untuk mengembangkan bakat dan kemampuan yang diberikan Tuhan, dan untuk menanggapi tuntutan zaman dan kebutuhan orang lain dengan semangat yang bebas dan murah hati.”
Tidak peduli seberapa luasnya, jangan sampai tertukar dengan kecerdasan.
Bapa Suci mengakui, tidak ada generasi yang pernah memiliki akses secepat itu terhadap informasi yang tersedia melalui AI. “Namun sekali lagi, akses terhadap data — betapapun luasnya, tidak boleh disamakan dengan kecerdasan, yang tentu saja “melibatkan keterbukaan seseorang terhadap pertanyaan-pertanyaan mendasar dalam kehidupan dan mencerminkan orientasi terhadap Kebenaran dan Kebaikan.”
Meskipun AI telah digunakan dalam cara yang positif dan mulia untuk meningkatkan kesetaraan, Paus Leo tetap memperingatkan “kemungkinan penyalahgunaannya untuk keuntungan pribadi dengan mengorbankan orang lain, atau lebih buruk lagi, untuk memicu konflik dan agresi.”
Menimbang konsekuensi AI
Sementara itu, katanya, Gereja ingin memberikan kontribusi bagi diskusi yang tenang dan terinformasi mengenai pertanyaan-pertanyaan mendesak ini dengan menekankan terutama kebutuhan untuk mempertimbangkan konsekuensi AI dalam terang “perkembangan integral manusia dan masyarakat.”
“Hal ini berarti,” tegas Paus, “memperhatikan kesejahteraan pribadi manusia tidak hanya secara material, tetapi juga secara intelektual dan spiritual. Ini berarti menjaga martabat yang tidak dapat diganggu gugat dari setiap pribadi manusia dan menghormati kekayaan dan keragaman budaya dan spiritual masyarakat dunia.”
“Pada akhirnya, manfaat atau risiko AI harus dievaluasi secara tepat menurut kriteria etika yang unggul ini,” katanya, memperingatkan masyarakat saat ini yang sedang mengalami “kehilangan” atau “setidaknya gerhana” tertentu dari apa yang manusiawi, dan mengatakan hal ini “menantang kita semua untuk merenungkan lebih dalam tentang sifat sejati dan keunikan martabat manusia kita bersama.”
Generasi muda harus dibantu, bukan dihalangi oleh AI
Pada akhirnya, Paus menekankan bahwa “kebijaksanaan sejati lebih berkaitan dengan pengakuan akan makna hidup yang sebenarnya, daripada ketersediaan data.”
Dalam konteks ini, Bapa Suci menyampaikan harapannya agar pertimbangan Konferensi “juga akan mempertimbangkan AI dalam konteks pelatihan antargenerasi yang diperlukan agar kaum muda dapat mengintegrasikan kebenaran ke dalam kehidupan moral dan spiritual mereka, sehingga dapat memberikan informasi bagi keputusan mereka yang matang dan membuka jalan menuju dunia yang lebih solidaritas dan bersatu.”
Akhirnya, Paus Leo menyimpulkan, “Tugas yang ditetapkan di hadapan Anda tidaklah mudah, tetapi merupakan tugas yang sangat penting.”
