Pada 25 Mei 2026, Vatikan merilis sebuah dokumen sepanjang 42.300 kata — ensiklik pertama Paus Leo XIV yang diberi judul Magnifica Humanitas ("Keagungan Kemanusiaan"). Di tengah ribuan kata tentang martabat manusia, keadilan buruh, dan tata kelola teknologi, ada satu kalimat yang seharusnya membuat kita berhenti sejenak: bahwa kecerdasan buatan mungkin bisa meniru atau bahkan mensimulasikan, tapi ia tidak memahami.

Kalimat itu bukan sekadar pernyataan teologis. Ia menyentuh titik lemah epistemis yang paling mendasar dalam cara kita mendiskusikan — dan mengevaluasi — AI hari ini.

Masalahnya bukan apakah LLM (large language models) itu "cerdas" atau tidak. Masalahnya adalah kita sudah terlanjur menyamakan dua hal yang sangat berbeda: kemiripan perilaku dengan kesetaraan kognitif.

Ketika Jawaban Benar Datang dari Tempat yang Salah

Ada sebuah paradoks yang jarang kita bahas secara jujur: sebuah LLM bisa memberikan jawaban yang tepat tanpa pernah tahu mengapa jawabannya tepat.

Ini bukan hiperbola. Ini arsitektur. Pada dasarnya, LLM dilatih dengan satu tugas sederhana — memprediksi token berikutnya dalam sebuah urutan teks. Model-model ini menjadi sangat ahli dalam mereproduksi pola statistik dari data latih mereka yang berjumlah miliaran dokumen. Akibatnya, ketika ditanya tentang hukum gravitasi, etika, atau trauma psikologis, model akan menghasilkan respons yang terdengar sangat masuk akal — karena teks tentang topik itu sangat berlimpah dalam data latihannya.

Sebuah makalah di jurnal Inquiry (2025) dari Tandfonline mendefinisikan ini sebagai perdebatan yang belum selesai: debat tentang LLM masih berjuang melampaui dua pemikiran orisinal yang berlawanan — Turing Test dan Chinese Room Argument milik Searle. Dua kutub intelektual itu masih relevan sampai hari ini, dan LLM generasi terbaru belum benar-benar menyelesaikannya.

Sebuah riset sistematis dari ArXiv (2025) menguji pemahaman konsep fisika pada model-model LLM terdepan termasuk GPT-4o, o1, dan Gemini 2.0. Hasilnya cukup mengejutkan: LLM terdepan tertinggal dari manusia sekitar 40% dalam tugas pemahaman konsep fisika berbasis grid — dan fenomena "stochastic parrot" terdeteksi nyata, karena model gagal pada tugas grid tapi mampu mendeskripsikan konsep yang sama dalam bahasa natural. Artinya, mereka bisa bicara tentang gravitasi tapi tidak benar-benar mengerti gravitasi.

Inilah garis batas epistemis yang dimaksud Paus Leo XIV.

Apa yang Dimaksud dengan "Memahami"?

Sebelum menuduh LLM "tidak mengerti", kita perlu jujur soal apa yang kita maksud dengan pemahaman.

Filsuf John Searle sudah meletakkan fondasi argumen ini sejak 1980 lewat eksperimen pikiran Chinese Room — jauh sebelum LLM ada. Ia membayangkan seseorang yang duduk di dalam sebuah kamar, menerima pertanyaan dalam bahasa Mandarin, lalu mencari aturan di buku panduan untuk menghasilkan respons Mandarin yang benar — tanpa pernah memahami bahasa itu. Searle berargumen bahwa sistem semacam ini tidak menggunakan kata-kata yang diproduksinya secara bermakna — bagi mereka, simbol itu kosong.

Kritik ini kemudian dikembangkan oleh Emily Bender dan tim peneliti NLP dalam makalah berpengaruh "On the Dangers of Stochastic Parrots" (2021) yang kini sudah dikutip lebih dari 11.000 kali. LLM mengandalkan pola statistik, absen dari pengalaman berintegrasi dengan dunia, dan tidak memiliki pemahaman genuein — batas-batas ini membedakan mereka secara fundamental dari agen kognitif sejati.

Tapi ada juga sisi sebaliknya yang perlu kita dengar. Geoffrey Hinton, salah satu pelopor jaringan saraf tiruan, berpendapat bahwa untuk memprediksi kata berikutnya secara akurat, sebuah sistem harus memahami kalimatnya — sehingga pemahaman bukan alternatif dari prediksi statistik, melainkan properti yang muncul (emergent) ketika prediksi dilakukan pada skala yang cukup besar. Dari perspektif ini, perbedaan antara "meniru" dan "memahami" menjadi kabur.

Perdebatan ini belum selesai. Dan di situlah letak bahayanya — kita bertindak seakan sudah ada jawabannya.

Simulasi Empati Bukanlah Empati

Ensiklik Magnifica Humanitas yang dirilis Paus Leo XIV pada Mei 2026 tidak menyerang teknologi secara membabi buta. Teknologi, menurut dokumen itu, bukanlah "kekuatan yang berlawanan dengan kemanusiaan" dan bukan sesuatu yang "secara inheren jahat" — namun teknologi tidak pernah netral, karena ia mengambil karakter dari mereka yang merancang, mendanai, mengatur, dan menggunakannya.

Yang menjadi perhatian utama Paus Leo XIV bukan apakah AI bisa melewati Turing Test. Perhatiannya jauh lebih mendasar. AI "tidak mengalami pengalaman, tidak memiliki tubuh, tidak merasakan kegembiraan atau rasa sakit, tidak matang melalui relasi, dan tidak tahu dari dalam apa artinya cinta, kerja, persahabatan, atau tanggung jawab".

Ini bukan pernyataan religius semata. Ini adalah deskripsi yang akurat tentang apa yang para ilmuwan kognisi sebut sebagai embodied cognition — pemahaman yang berakar pada tubuh, pengalaman, dan keterlibatan dengan dunia nyata.

Ketika ChatGPT merespons curhatan seseorang yang sedih dengan kata-kata penuh empati, tidak ada perasaan di balik kata-kata itu. Bukan karena kalimatnya buruk — mungkin kalimatnya bahkan lebih indah dari yang bisa diucapkan kebanyakan manusia. Tapi kata-kata itu tidak lahir dari pemahaman tentang rasa sakit. Kata-kata itu lahir dari distribusi probabilitas teks tentang rasa sakit yang pernah ditulis manusia.

Simulasi empati. Bukan empati.

Dan perbedaan itu bukan detail teknis — ia punya implikasi etis yang serius.

Apa yang Benar-Benar Kita Evaluasi

Sebagian besar tolok ukur evaluasi AI hari ini masih beroperasi di atas satu asumsi implisit: jika sebuah sistem menghasilkan output yang secara statistik mendekati perilaku manusia, maka ia mendekati kecerdasan manusia. Inilah yang para peneliti sebut sebagai behavioral equivalence fallacy — kekeliruan menyamakan kesetaraan perilaku dengan kesetaraan kognitif.

Dari perspektif filosofis Sellarsian-Brandomian, LLM mengikuti pola statistik alih-alih norma inferensial yang genuein — mereka bisa tampak bernalar tanpa benar-benar menempati "ruang logis alasan". Dan penelitian empiris terbaru mulai memberikan bukti konkret untuk klaim filosofis ini: penjelasan paling sederhana (parsimoni) adalah bahwa LLM tidak memiliki pemahaman sama sekali, karena pada dasarnya model ini dibangun di atas prinsip yang sangat sederhana — prediksi token berikutnya.

Evaluasi berbasis benchmark — dari MMLU sampai LSAT hingga Bar Examination — terus meningkat dari tahun ke tahun. LLM terdepan kini mampu melampaui persentil ke-90 di ujian hukum. Tapi ini justru membuat pertanyaan yang lebih besar semakin mendesak: apakah kita mengukur kecerdasan, atau mengukur kemampuan menghasilkan teks yang terlihat cerdas?

Sebuah riset dari Carnegie Mellon University menguji kemampuan LLM dalam merespons ujaran non-literal — sebuah kemampuan yang sangat dasar dalam komunikasi manusia. Hasilnya: LLM kesulitan menghasilkan respons yang pragmatik terhadap bahasa non-literal, dengan akurasi rata-rata hanya 50–55%, bahkan ketika diberi instruksi eksplisit tentang maksud yang dimaksud. Komunikasi manusia yang paling mendasar — ironi, sarkasme, implikatur — masih jadi batu sandungan.

Kenapa Ini Penting Sekarang

Ini bukan debat akademis yang bisa kita tunda. Saat ini LLM sudah digunakan untuk menulis diagnosa medis, menyusun keputusan hukum, menghasilkan laporan jurnalistik, bahkan memberikan dukungan psikologis. Kita sudah mempercayakannya dengan tugas-tugas yang mensyaratkan akuntabilitas — sesuatu yang tidak bisa dimiliki oleh sistem yang tidak memiliki pemahaman.

Sejak terpilih pada Mei 2025, Paus Leo XIV berulang kali kembali ke topik kecerdasan buatan — dalam pidato, wawancara, dan kini ensiklik penuh. Ia memperingatkan remaja di sebuah stadion olahraga untuk menggunakan AI "sedemikian rupa sehingga jika AI menghilang besok, kamu masih tahu cara berpikir".

Itu bukan pernyataan anti-teknologi. Itu peringatan epistemis.

Posisi Paus Leo XIV — bahwa AI mensimulasikan tapi tidak memahami — tidak dipegang secara universal, bahkan di kalangan ilmuwan. Filosof David Chalmers mengatakan ia tidak bisa mengesampingkan bahwa LLM saat ini mungkin sadar. Ilmuwan kognitif Joscha Bach berargumen bahwa sulit untuk mengatakan apakah simulasi kesadaran LLM lebih kurang nyata dari kesadaran kita sendiri.

Ketidakpastian ilmiah ini nyata. Tapi ketidakpastian bukan alasan untuk berlaku seolah masalahnya sudah terpecahkan — ke arah manapun.

Titik yang Harus Kita Jaga

Ada perbedaan penting antara dua klaim berikut:

Pertama, "LLM adalah alat yang sangat powerful dan berguna." Ini benar, tidak perlu diperdebatkan.

Kedua, "LLM mendekati atau setara dengan kecerdasan manusia." Ini klaim yang jauh lebih besar, dan buktinya masih sangat tipis.

Pemahaman manusia bersifat embodied (berakar di tubuh), affective (diwarnai emosi), relasional (tumbuh lewat interaksi), motivasional (terhubung dengan tujuan), dan normatif (bertanggung jawab atas penilaiannya). Ia bukan sekadar produksi teks yang plausibel.

Ketika kita mengacaukan simulasi dengan pemahaman, kita tidak hanya salah secara teknis. Kita membuat keputusan desain yang keliru tentang di mana AI boleh digunakan, seberapa besar kita harus mempercayainya, dan tanggung jawab apa yang kita delegasikan kepadanya.

Ensiklik Magnifica Humanitas mungkin datang dari institusi agama. Tapi pertanyaan yang ia ajukan — tentang perbedaan antara imitasi dan pemahaman — adalah pertanyaan yang paling mendesak dalam sains kognitif, etika AI, dan tata kelola teknologi hari ini.

Kita perlu berhenti mengukur kecerdasan hanya dari output. Kita perlu bertanya: apa yang ada di balik output itu?

Dan kalau jawabannya hanya distribusi statistik tanpa dunia yang mengakuntabilkan penjelasan — itu bukan pemahaman. Itu perkiraan yang sangat canggih.

Referensi & Resources:

Vatican Official: Magnifica Humanitas — Ensiklik Paus Leo XIV (15 Mei 2026) — https://www.vatican.va/content/leo-xiv/en/encyclicals/documents/20260515-magnifica-humanitas.html
Bender et al. (2021) — "On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?" — ACL Anthology — https://dl.acm.org/doi/10.1145/3442188.3445922
Yerukola et al. — "Is the Pope Catholic? Generative Evaluation of Non-Literal Intent Resolution in LLMs" — Carnegie Mellon University / ArXiv — https://arxiv.org/pdf/2405.08760
Wu et al. (2025) — "The Stochastic Parrot on LLM's Shoulder: A Summative Assessment of Physical Concept Understanding" — ArXiv — https://arxiv.org/html/2502.08946v1
Preprint PsyArXiv: Coherent Without Grounding, Grounded Without Success — https://osf.io/preprints/psyarxiv/qjrhs_v1
Tandfonline (2025) — "LLMs, Turing tests and Chinese rooms: the prospects for meaning in large language models" — https://www.tandfonline.com/doi/full/10.1080/0020174X.2024.2446241
OfficeChai (2026): "AI Doesn't Undergo Experiences, Has No Moral Conscience: Pope Leo XIV" — https://officechai.com/ai/ai-doesnt-undergo-experiences-has-no-moral-conscience-pope-leo-xiv/