Paus Fransiskus Mengekspresikan Kekhawatiran tentang Bahaya Kecerdasan Buatan dan Peringatkan Mengenai Distorsi Realitas

KLIKANGGARAN - Paus Fransiskus telah mengeluarkan peringatan tentang potensi bahaya yang ditimbulkan oleh kecerdasan buatan (AI), dengan mengatakan bahwa kemajuan teknologi yang pesat dapat menyebabkan "distorsi realitas" tanpa "regulasi etis".

Dalam pesan panjang yang diterbitkan pada hari Rabu, Paus Fransiskus mengungkapkan bahwa perkembangan terkini dalam AI "menarik dan membingungkan", namun juga memunculkan pertanyaan lebih dalam tentang hubungan manusia dengan teknologi.

Dalam pesannya, dikutip Russia Today, Paus Fransiskus menulis, "Bagaimana kita bisa tetap menjadi manusia seutuhnya dan memandu transformasi budaya ini untuk mencapai tujuan yang baik?"

Dia mengakui bahwa sistem kecerdasan buatan dapat membantu mengatasi ketidaktahuan dan memfasilitasi pertukaran informasi antara berbagai bangsa dan generasi.

Baca Juga: Skandal Foto Seksual Taylor Swift yang Dihasilkan oleh AI dan Tersebar di Platform Media Sosial

Namun, dia juga mengingatkan bahwa hal tersebut juga dapat menjadi sumber "polusi kognitif", yaitu distorsi realitas yang disebabkan oleh narasi palsu yang diyakini dan disiarkan seolah-olah benar.

Paus Fransiskus melanjutkan dengan mengutip "masalah disinformasi dalam bentuk berita palsu yang sudah berlangsung lama" dan mengungkapkan bahwa dirinya sendiri telah menjadi korban 'deepfakes' - gambar atau audio yang dihasilkan oleh AI dengan sangat meyakinkan, yang sering digunakan untuk menyamar sebagai tokoh masyarakat.

Dia juga menyoroti bahwa teknologi simulasi di balik program-program ini dapat bermanfaat dalam bidang-bidang tertentu, namun menjadi berbahaya jika merusak hubungan kita dengan orang lain dan dengan kenyataan.

Paus Fransiskus menekankan bahwa revolusi digital dapat memberikan kebebasan yang lebih besar, namun hal ini tidak akan terjadi jika kita terperangkap dalam apa yang saat ini disebut sebagai 'ruang gema'.

Dia juga mengingatkan bahwa gambar palsu yang menggambarkan dirinya yang viral tahun lalu adalah contoh nyata dari bagaimana AI dapat memperdaya banyak pengguna media sosial.

Baca Juga: Dibanjiri Pertanyaan Transparansi Uang Transport Pelantikan dan Bimtek, Inilah Jawaban KPU

Dengan peringatannya ini, Paus Fransiskus menyoroti pentingnya regulasi etis dalam menghadapi perkembangan AI yang cepat, serta perlunya kesadaran akan dampaknya terhadap realitas dan hubungan manusia.

Pemimpin gereja itu digambarkan dalam gambar palsu tahun lalu, menunjukkan dia mengenakan jaket puffer sepanjang pergelangan kaki. Itu dilaporkan dibuat menggunakan Midjourney, alat seni berbasis AI, menurut penciptanya. Gambar itu menjadi viral di media sosial, membodohi banyak pengguna.

Meskipun masyarakat harus “mengesampingkan prediksi bencana” tentang masa depan AI, Paus Fransiskus berpendapat bahwa teknologi tersebut “pada akhirnya dapat menciptakan kasta-kasta baru berdasarkan akses terhadap informasi” dan menimbulkan “bentuk-bentuk eksploitasi dan ketidaksetaraan baru.”