Beberapa waktu lalu saya berdebat dengan seseorang yang memposting masalah-masalah agama hanya bermodalkan AI. Saya katakan kalau perbuatannya itu sangatlah berbahaya, karena ada fenomena yang disebut “AI Hallucination”, yaitu ketika AI membuat-buat referensi palsu dan menyajikannya seolah-olah benar. Jadi berbahaya karena orang tersebut tak punya kemampuan untuk memverifikasi apa yang diberikan AI kepadanya.
Fenomena ini bukan teori, sebab saya sendiri sudah sering menemuinya — dan membantahnya — di hampir semua chatbot AI. Namun yang paling parah menurut pengalaman saya adalah Meta AI dan akhir-akhir ini DeepSeek. Namun yang tak saya sangka, ternyata firma konsultan sebesar Deloitte pun bisa terjerumus dalam kasus AI Hallucination.
Saat ini publik Australia sedang dibuat geger oleh skandal AI Deloitte akibat sebuah laporan resmi Pemerintah yang dikerjakan oleh firma raksasa Deloitte — yang dibayar AUD 440.000 (≈ IDR 4,6milyar) — ternyata berisi kutipan palsu, sumber fiktif, dan referensi akademis yang tak pernah ada yang dibuat-buat oleh AI…!
Ceritanya, Departemen Tenaga Kerja Australia (DEWR) memesan laporan evaluasi atas sistem kesejahteraan sosial mereka — semacam audit independen untuk menilai program “Targeted Compliance Framework”. Laporan setebal 237 halaman itu sekilas tampak sangat komprehensif dan profesional… namun ketika dibaca lebih dalam oleh Chris Rudge, akademisi dari University of Sydney, ternyata ditemukan banyak kejanggalan.
- Ada kutipan pengadilan yang tidak pernah ada.
- Ada referensi ilmiah yang tidak bisa ditemukan.
- Ada bagian-bagian yang terasa “mengarang tapi meyakinkan”.
Setelah dikonfrontasi, Deloitte akhirnya mengakui bahwa laporan itu disusun dengan bantuan AI (Azure OpenAI GPT-4o) dan mereka bahkan mengembalikan sebagian pembayaran, meskipun tetap bersikeras bahwa “temuan dan rekomendasi kami tak berubah”.
Well…
Ini bukan sekadar “kesalahan teknis” semisal typo, ini adalah masalah etika profesional.
Penggunaan AI memang tak terhindarkan — seiring perkembangan zaman. Akan tetapi AI punya batasan-batasan yang mana sampai saat ini membuat AI itu TIDAK BISA menggantikan manusia. Para ahli pun sudah lama memperingatkan bahwa AI, sebaik apa pun, bisa berhalusinasi dengan menciptakan informasi palsu yang tampak benar.
Firma besar seperti Deloitte — yang sudah puluhan tahun malang melintang sebagai auditor besar dan membuat studi untuk kebijakan di berbagai Negara — ternyata menyerahkan pembuatan laporan kepada mesin tanpa pengecekan serius.
Ini jelas kasus “kegagalan manusia”, bukan “kegagalan teknologi”. Sebab Deloitte bukanlah startup amatir — apalagi aktivis media sosial yang bermodalkan AI chatbot gratisan. Mereka punya staf ahli, sumber daya, dan reputasi internasional, namun mereka gagal menjalankan prosedur paling dasar, yaitu: “fact-checking” dan “review”.
Terus terang, fenomena ini bukan sekadar soal kemalasan, ini gejala “brain rot” — kemunduran intelektual akibat ketergantungan pada mesin, dan lebih parah lagi “moral hazard” — menormalisasi cukup “refund sedikit” saat ketahuan curang.
AI bukanlah pengganti àqal sehat, dan bukan pula jalan pintas belajar. Mesin bisa meniru gaya akademik, akan tetapi TIDAK BISA memiliki “kebijaksanaan” (yang berasal dari wawasan) dan jelas TIDAK MAMPU menanggung “tanggung jawab moral” (yang lahir dari hati nurani).
AI tidak bersalah, yang bersalah adalah manusia yang menyerahkan tanggung-jawabnya kepada mesin, lalu pura-pura kaget ketika mesin berbohong.
AI takkan menggantikan manusia, namun manusia yang menyerahkan àqal sehat dan wawasannya kepada AI itu artinya ia sedang menggantikan dirinya sendiri dengan kebodohan.
M. Arsyad Syahrial SE, MF
Pengamat Ekonomi dan Pergerakan Islam
Alumni RMIT University, Melbourne, Australia