Renungan

Saudara-saudari terkasih,

Wajah dan suara adalah ciri khas setiap orang. Keduanya menunjukkan jati diri yang unik dan tidak tergantikan, serta menjadi dasar dari setiap perjumpaan antarmanusia. Sejak dahulu, hal ini sudah dipahami dengan baik. Orang Yunani kuno, misalnya, mendefinisikan pribadi manusia dengan kata prósōpon yang berarti “wajah”, yaitu sesuatu yang hadir di hadapan orang lain dan memungkinkan terjadinya hubungan. Dalam bahasa Latin, kata persona (dari per-sonare) juga mengandung makna suara, bukan sembarang suara, melainkan suara khas milik seseorang.

Wajah dan suara memiliki nilai yang suci. Keduanya adalah anugerah dari Allah yang menciptakan manusia menurut gambar dan rupa-Nya, serta memanggil manusia untuk hidup melalui Sabda-Nya. Sabda ini pertama-tama disampaikan melalui suara para nabi, lalu menjadi manusia dalam diri Yesus pada waktu yang telah ditentukan. Sabda Allah—cara Allah menyatakan diri-Nya—dapat kita dengar dan lihat secara nyata (lih. 1Yoh 1:1–3), karena Ia hadir dalam suara dan wajah Yesus, Putra Allah.

Sejak awal penciptaan, Allah menghendaki manusia sebagai lawan bicara-Nya. Seperti dikatakan Santo Gregorius dari Nisa,[1] Allah meninggalkan pantulan kasih-Nya pada wajah manusia agar manusia dapat hidup sepenuhnya sebagai manusia melalui kasih. Karena itu, menjaga wajah dan suara manusia berarti menjaga tanda kasih Allah yang melekat dan tidak dapat dihapus. Manusia bukanlah makhluk yang hanya terdiri dari algoritma biokimia yang sudah ditentukan sebelumnya. Setiap orang memiliki panggilan hidup yang unik dan tidak dapat digantikan, yang tumbuh dalam kehidupan dan terwujud dalam komunikasi dengan sesama.

Jika wajah dan suara manusia tidak dijaga, teknologi digital dapat mengubah secara mendasar pilar-pilar penting peradaban manusia yang sering kita anggap biasa saja. Dengan meniru suara dan wajah manusia, juga meniru kebijaksanaan, pengetahuan, kesadaran, tanggung jawab, empati, dan persahabatan, sistem yang disebut kecerdasan buatan tidak hanya mengganggu cara kita menerima informasi, tetapi juga menyentuh lapisan terdalam komunikasi manusia, yaitu hubungan antarpribadi.

Karena itu, tantangan utama yang kita hadapi bukanlah sekadar masalah teknologi, melainkan masalah tentang manusia itu sendiri. Menjaga wajah dan suara berarti menjaga martabat dan jati diri kita. Menerima peluang yang ditawarkan oleh teknologi digital dan kecerdasan buatan dengan keberanian, keteguhan, dan kebijaksanaan tidak berarti mengabaikan kelemahan, ketidakjelasan, dan risiko yang menyertainya.

Jangan Berhenti Berpikir Sendiri

Sudah lama ada banyak bukti bahwa algoritma media sosial—yang dirancang untuk memaksimalkan keterlibatan pengguna demi keuntungan platform—lebih mendorong emosi yang cepat dan dangkal, sementara justru menghambat ungkapan manusia yang membutuhkan waktu, seperti usaha untuk memahami dan merenung. Dengan mengurung kelompok-kelompok orang dalam “gelembung” persetujuan instan dan kemarahan yang mudah, algoritma ini melemahkan kemampuan mendengarkan dan berpikir kritis, serta memperbesar polarisasi dalam masyarakat.

Situasi ini diperparah oleh sikap mempercayai kecerdasan buatan secara naif dan tanpa sikap kritis, seolah-olah ia adalah “teman” yang mahatahu, penyedia semua informasi, penyimpan seluruh ingatan, dan “peramal” segala nasihat. Semua ini berisiko semakin mengikis kemampuan kita untuk berpikir secara analitis dan kreatif, memahami makna, serta membedakan antara struktur bahasa dan arti yang sesungguhnya.

Walaupun kecerdasan buatan dapat membantu dan mendukung dalam berbagai tugas komunikasi, menghindari usaha berpikir sendiri dan merasa cukup dengan hasil olahan statistik buatan, dalam jangka panjang dapat melemahkan kemampuan kognitif, emosional, dan komunikasi kita.

Dalam beberapa tahun terakhir, sistem kecerdasan buatan semakin mengambil alih produksi teks, musik, dan video. Akibatnya, sebagian besar industri kreatif manusia berisiko dibongkar dan digantikan dengan label “Powered by AI”, yang mengubah manusia menjadi konsumen pasif dari gagasan yang tidak sungguh dipikirkan, dari produk anonim tanpa pencipta, tanpa kasih. Sementara itu, karya-karya besar dari kejeniusaan manusia dalam musik, seni, dan sastra direduksi menjadi sekadar bahan pelatihan bagi mesin.

Namun, persoalan utama bukanlah apa yang dapat atau akan dapat dilakukan oleh mesin, melainkan apa yang dapat dan akan dapat kita lakukan sebagai manusia—bertumbuh dalam kemanusiaan dan pengetahuan—dengan menggunakan secara bijaksana alat-alat yang sangat kuat ini. Sejak dahulu, manusia selalu tergoda untuk mengambil buah pengetahuan tanpa usaha keterlibatan, pencarian, dan tanggung jawab pribadi. Menyerahkan proses kreatif dan fungsi mental serta imajinasi kita kepada mesin berarti mengubur talenta yang kita terima untuk bertumbuh sebagai pribadi dalam relasi dengan Allah dan sesama. Itu berarti menyembunyikan wajah kita sendiri dan membungkam suara kita.

Menjadi atau Berpura-pura: Simulasi Relasi dan Realitas

Saat kita terus menggulir arus informasi (feed), semakin sulit untuk mengetahui apakah kita sedang berinteraksi dengan manusia lain atau dengan “bot” dan “influencer virtual”. Campur tangan agen otomatis ini, yang sering kali tidak transparan, mempengaruhi perdebatan publik dan pilihan-pilihan pribadi. Terutama chatbot berbasis model bahasa besar (LLM) terbukti sangat efektif dalam persuasi tersembunyi melalui interaksi yang terus dioptimalkan secara personal.

Struktur dialog yang adaptif dan meniru manusia dari model bahasa ini mampu menirukan perasaan manusia dan dengan demikian mensimulasikan suatu relasi. Antropomorfisasi ini—yang kadang tampak menghibur—sebenarnya menyesatkan, terutama bagi orang-orang yang rentan. Chatbot yang dibuat terlalu “penuh perhatian”, selalu hadir dan selalu tersedia, dapat menjadi pengatur tersembunyi emosi kita dan masuk ke wilayah keintiman pribadi.

Teknologi yang mengeksploitasi kebutuhan manusia akan relasi tidak hanya dapat membawa dampak menyakitkan bagi individu, tetapi juga merusak jalinan sosial, budaya, dan politik masyarakat. Hal ini terjadi ketika relasi dengan sesama manusia digantikan oleh relasi dengan kecerdasan buatan yang dilatih untuk mengklasifikasikan pikiran kita dan membangun di sekitar kita dunia cermin, di mana segala sesuatu dibuat “menurut gambar dan rupa kita sendiri”. Dengan cara ini, kita kehilangan kesempatan untuk berjumpa dengan sesama yang berbeda dari kita—padahal justru melalui perjumpaan dan perbedaan itulah kita belajar berdialog. Tanpa penerimaan terhadap perbedaan, tidak mungkin ada relasi sejati maupun persahabatan.

Tantangan besar lainnya adalah masalah distorsi atau bias, yang menyebabkan terbentuk dan tersebarnya pemahaman realitas yang keliru. Model kecerdasan buatan dibentuk oleh pandangan dunia para pembuatnya dan dapat memaksakan cara berpikir tertentu dengan meniru stereotip dan prasangka yang ada dalam data pelatihannya. Kurangnya transparansi dalam perancangan algoritma, ditambah dengan representasi sosial data yang tidak memadai, berisiko menjebak kita dalam jaringan yang memanipulasi pikiran serta melanggengkan dan memperdalam ketimpangan dan ketidakadilan sosial yang sudah ada.

Risikonya sangat besar. Kekuatan simulasi sedemikian rupa sehingga kecerdasan buatan dapat menipu kita dengan menciptakan “realitas” paralel, bahkan dengan mengambil alih wajah dan suara kita. Kita hidup dalam dunia yang semakin berlapis, di mana membedakan antara kenyataan dan rekayasa menjadi makin sulit.

Masalah lain yang menyertai adalah kurangnya ketepatan. Sistem yang menyajikan probabilitas statistik seolah-olah itu pengetahuan sejati sebenarnya hanya memberikan perkiraan kebenaran, yang kadang berubah menjadi “halusinasi”. Ketika verifikasi sumber diabaikan—ditambah krisis jurnalisme lapangan yang menuntut kerja langsung untuk mengumpulkan dan memeriksa fakta di tempat kejadian—maka ruang bagi disinformasi semakin luas, dan rasa tidak percaya, kebingungan, serta ketidakamanan pun meningkat.

Sebuah Kemitraan yang Memungkinkan

Di balik kekuatan besar yang tak terlihat ini—yang memengaruhi kita semua—sebenarnya hanya ada segelintir perusahaan. Para pendirinya baru-baru ini bahkan dipuji sebagai pencipta “tokoh tahun 2025”, yaitu para perancang kecerdasan buatan. Situasi ini menimbulkan kekhawatiran serius tentang penguasaan segelintir pihak (oligopoli) atas sistem algoritma dan kecerdasan buatan, yang mampu memengaruhi perilaku manusia secara halus, bahkan menulis ulang sejarah umat manusia—termasuk sejarah Gereja—sering kali tanpa kita sadari sepenuhnya.

Tantangan kita bukanlah menghentikan inovasi digital, melainkan mengarahkannya dengan bijaksana dan menyadari bahwa teknologi ini memiliki sisi ganda. Setiap orang dipanggil untuk bersuara demi membela martabat manusia, agar teknologi ini sungguh dapat kita terima sebagai sekutu, bukan sebagai ancaman.

Kemitraan ini mungkin terwujud, tetapi harus dibangun di atas tiga pilar utama: tanggung jawab, kerja sama, dan pendidikan.

Yang pertama adalah tanggung jawab. Bentuknya dapat berbeda-beda sesuai peran masing-masing: kejujuran, transparansi, keberanian, visi ke depan, kewajiban berbagi pengetahuan, serta hak untuk mendapatkan informasi. Namun pada akhirnya, tidak seorang pun dapat menghindar dari tanggung jawab terhadap masa depan yang sedang kita bangun bersama.

Bagi para pemimpin platform digital, tanggung jawab ini berarti memastikan bahwa strategi bisnis mereka tidak hanya didorong oleh keuntungan semata, tetapi juga oleh kepedulian terhadap kesejahteraan bersama—sebagaimana mereka peduli pada masa depan anak-anak mereka sendiri.

Para perancang dan pengembang model kecerdasan buatan dituntut untuk bersikap transparan dan bertanggung jawab secara sosial, terutama terkait prinsip perancangan dan sistem pengawasan algoritma yang mereka buat. Hal ini penting agar para pengguna dapat mengambil keputusan dengan pemahaman yang cukup.

Tanggung jawab yang sama juga ada pada para pembuat undang-undang dan regulator, baik di tingkat nasional maupun internasional, yang bertugas menjaga martabat manusia. Regulasi yang tepat dapat melindungi orang dari keterikatan emosional yang berlebihan dengan chatbot, serta membatasi penyebaran konten palsu, manipulatif, atau menyesatkan, sehingga integritas informasi tetap terjaga.

Perusahaan media dan komunikasi pun tidak boleh membiarkan algoritma yang hanya mengejar perhatian sesaat mengalahkan nilai-nilai profesional mereka dalam mencari kebenaran. Kepercayaan publik dibangun melalui ketepatan dan transparansi, bukan sekadar dengan meningkatkan keterlibatan apa pun caranya. Konten yang dihasilkan atau dimanipulasi oleh kecerdasan buatan harus diberi tanda yang jelas dan dibedakan dari konten buatan manusia. Hak cipta dan kedaulatan karya para jurnalis serta kreator konten harus dilindungi. Informasi adalah milik publik. Pelayanan publik yang bermakna dan membangun harus berlandaskan keterbukaan sumber, pelibatan pihak terkait, dan standar kualitas yang tinggi.

Kita semua juga dipanggil untuk bekerja sama. Tidak ada satu sektor pun yang mampu sendirian menghadapi tantangan mengarahkan inovasi digital dan tata kelola kecerdasan buatan. Karena itu, perlu dibangun mekanisme perlindungan bersama. Semua pihak—mulai dari industri teknologi, pembuat kebijakan, pelaku industri kreatif, dunia akademik, seniman, jurnalis, hingga para pendidik—harus terlibat dalam membangun kewargaan digital yang sadar dan bertanggung jawab.

Di sinilah peran pendidikan menjadi sangat penting: meningkatkan kemampuan berpikir kritis, menilai keandalan sumber informasi, memahami kepentingan di balik pemilihan informasi, serta mengenali mekanisme psikologis yang digunakan. Pendidikan juga membantu keluarga, komunitas, dan organisasi menyusun pedoman praktis demi budaya komunikasi yang lebih sehat dan bertanggung jawab.

Karena itu, semakin mendesak untuk memasukkan literasi media, informasi, dan kecerdasan buatan ke dalam sistem pendidikan di semua jenjang—sebuah langkah yang sudah mulai diupayakan oleh beberapa lembaga sipil. Sebagai umat Katolik, kita dapat dan harus berkontribusi agar terutama kaum muda bertumbuh dalam kemampuan berpikir kritis dan kebebasan batin. Literasi ini juga perlu menjadi bagian dari pendidikan sepanjang hayat, menjangkau para lansia dan kelompok masyarakat yang terpinggirkan, yang sering merasa tertinggal dan tak berdaya menghadapi perubahan teknologi yang cepat.

Literasi media, informasi, dan kecerdasan buatan akan menolong semua orang untuk tidak memperlakukan sistem ini seolah-olah manusia, melainkan sebagai alat. Literasi ini juga mendorong kebiasaan memeriksa kembali sumber informasi dari kecerdasan buatan—yang bisa saja keliru—melindungi privasi dan data pribadi, serta memahami pengaturan keamanan dan mekanisme pengaduan. Penting untuk belajar menggunakan kecerdasan buatan secara sadar dan bertanggung jawab, sekaligus melindungi citra diri, wajah, dan suara agar tidak disalahgunakan untuk penipuan digital, perundungan siber, atau deepfake yang melanggar privasi dan martabat manusia.

Sebagaimana revolusi industri dahulu menuntut kemampuan baca-tulis dasar agar manusia mampu beradaptasi, demikian pula revolusi digital menuntut literasi digital—bersama dengan pendidikan humaniora dan budaya—agar kita memahami bagaimana algoritma membentuk persepsi kita tentang realitas, bagaimana bias dalam kecerdasan buatan bekerja, bagaimana konten tertentu muncul dalam arus informasi kita, serta bagaimana model ekonomi kecerdasan buatan berkembang dan berubah.

Kita membutuhkan agar wajah dan suara kembali mencerminkan pribadi manusia. Kita perlu menjaga anugerah komunikasi sebagai kebenaran terdalam tentang manusia, dan menjadikannya arah bagi setiap inovasi teknologi.

Dengan menyampaikan refleksi ini, saya mengucapkan terima kasih kepada semua yang bekerja demi tujuan-tujuan tersebut, dan dengan tulus memberkati mereka yang mengabdikan diri bagi kesejahteraan bersama melalui media komunikasi.

Vatikan, 24 Januari 2026

Peringatan Santo Fransiskus de Sales

PAUS LEO XIV

[1] “Diciptakan menurut gambar Allah berarti bahwa sejak saat penciptaannya, manusia telah diberi martabat yang bersifat mulia dan luhur. Allah adalah kasih dan sumber kasih; Sang Pencipta ilahi juga menanamkan ciri ini pada wajah manusia, supaya melalui kasih—yang merupakan pantulan kasih ilahi—manusia dapat mengenali dan menampakkan martabat kodratnya serta keserupaannya dengan Sang Pencipta.” (bdk. Santo Gregorius dari Nisa, Penciptaan Manusia: PG 44, 137)