OPINI
Halusinasi AI dan Ancaman Integritas Ilmiah
Oleh: Dian Fiantis*
Seorang mahasiswa sedang menyiapkan proposal penelitian dengan bantuan kecerdasan buatan atau artificial intelligence (AI). Dalam beberapa detik, AI menyajikan sepuluh referensi lengkap dengan nama penulis, tahun penerbitan, judul artikel, nama jurnal, dan nomor digital object identifier (DOI).
Mahasiswa tersebut merasa pekerjaannya menjadi lebih mudah. Namun, ketika beberapa referensi diperiksa melalui situs penerbit, artikel yang dimaksud ternyata tidak ditemukan. Ada pula DOI yang mengarah ke artikel dengan judul dan penulis berbeda.
Bagaimana mungkin AI menghasilkan referensi ilmiah yang terlihat lengkap, tetapi sebenarnya tidak pernah diterbitkan?
Fenomena ini dikenal sebagai halusinasi AI (AI hallucination), yaitu ketika sistem AI menghasilkan informasi keliru atau tidak didukung bukti, tetapi menyampaikannya dengan bahasa yang meyakinkan.
Dalam dunia akademik, kesalahan tersebut dapat mempengaruhi penelusuran literatur, penyusunan proposal, interpretasi data, hingga penulisan manuskrip ilmiah.
Model bahasa besar atau large language model (LLM), seperti ChatGPT, dilatih menggunakan kumpulan teks dalam jumlah sangat besar. Model mempelajari pola bahasa, hubungan antarkonsep, dan informasi yang terkandung dalam data pelatihan.
Ketika menerima pertanyaan, AI menghasilkan jawaban berdasarkan pola yang dipelajari dan konteks yang diberikan pengguna. Kemampuan tersebut memungkinkan AI menjelaskan konsep rumit dan menyusun tulisan secara terstruktur.
Persoalannya, kemampuan menghasilkan kalimat yang masuk akal tidak selalu disertai pemeriksaan kebenaran informasi. AI dapat menggabungkan fakta yang benar dengan informasi keliru atau memberikan jawaban ketika bukti yang tersedia belum mencukupi.
Kalai dan rekan-rekannya (2025), dalam penelitian Why Language Models Hallucinate, menjelaskan bahwa halusinasi berkaitan dengan proses pelatihan dan evaluasi model bahasa. Sistem penilaian yang lebih menghargai jawaban benar daripada pengakuan ketidakpastian dapat mendorong model menebak ketika tidak mengetahui jawabannya.
Situasi ini menyerupai mahasiswa yang menghadapi pertanyaan ujian tanpa mengetahui jawabannya. Sebagian memilih tidak menjawab, sedangkan lainnya mencoba menebak. Perbedaannya, dugaan AI sering disampaikan dengan bahasa lancar dan istilah teknis yang terlihat ilmiah.
Referensi Tidak Ada
Referensi merupakan landasan penting dalam penelitian. Melalui publikasi terdahulu, peneliti memahami perkembangan ilmu, metode yang digunakan, serta persoalan yang belum terjawab.
Sebagai contoh, mahasiswa yang meneliti tanah vulkanis meminta AI mencarikan publikasi mengenai hubungan mineral nonkristalin dengan retensi fosfat pada andisols. AI mungkin menghasilkan daftar artikel lengkap dengan nama jurnal dan DOI.
Sebagian referensi tersebut mungkin benar, sedangkan lainnya merupakan gabungan nama penulis, judul, dan informasi bibliografi dari publikasi berbeda.
Saya pernah menemukan kasus serupa ketika memeriksa daftar pustaka proposal penelitian dan skripsi mahasiswa. Nama saya tercantum sebagai penulis beberapa artikel ilmiah, padahal saya tidak pernah menulis atau menerbitkan artikel tersebut.
Pengalaman tersebut menunjukkan pentingnya memeriksa keaslian referensi sebelum mencantumkannya dalam karya ilmiah. Kesalahan bibliografi tidak selalu berasal dari AI, tetapi teknologi ini dapat menambah risiko apabila jawabannya diterima tanpa pemeriksaan.
Persoalan sitasi yang dihasilkan AI juga telah menjadi perhatian komunitas ilmiah internasional, termasuk dalam pembahasan yang diterbitkan jurnal Nature pada 2025 dan 2026.
Keberadaan DOI tidak otomatis menjamin kebenaran referensi. Nomor tersebut perlu diperiksa melalui Crossref atau situs penerbit untuk memastikan kesesuaian judul, nama penulis, tahun, dan isi publikasi.
Kesalahan Interpretasi Data
Halusinasi AI juga dapat muncul ketika sistem diminta menjelaskan hasil penelitian atau menyusun pembahasan ilmiah. Misalnya, AI menyatakan bahwa seluruh andisols mempunyai retensi fosfat sebesar 95 persen. Pernyataan tersebut tidak dapat diterima tanpa data pengukuran.
Retensi fosfat dipengaruhi oleh mineral tanah, aluminium dan besi aktif, bahan organik, serta proses pembentukan tanah. Nilainya dapat berbeda antarlokasi.
Dalam klasifikasi tanah, retensi fosfat sebesar 85 persen atau lebih merupakan salah satu kriteria yang digunakan untuk mengidentifikasi sifat tanah andik. Angka tersebut bukan berarti seluruh andisols mempunyai retensi fosfat yang sama.
Kesalahan lain dapat muncul dalam interpretasi statistik. AI mungkin menyimpulkan bahwa peningkatan suatu variabel menyebabkan perubahan variabel lainnya, padahal hasil penelitian hanya menunjukkan korelasi.
Hubungan statistik tidak selalu membuktikan hubungan sebab-akibat. Peneliti harus mempertimbangkan rancangan penelitian, variabel perancu, metode analisis, dan mekanisme ilmiah sebelum menyimpulkan adanya pengaruh langsung.
AI juga dapat menghasilkan angka rata-rata, persentase perubahan, atau nilai statistik yang tidak tersedia dalam data penelitian. Angka yang terlihat presisi belum tentu berasal dari perhitungan yang benar.
Mahasiswa dan peneliti perlu membandingkan interpretasi AI dengan data asli, hasil analisis statistik, serta rancangan penelitian. Apabila terdapat keraguan, hasil tersebut sebaiknya didiskusikan dengan dosen pembimbing atau ahli yang memahami metode analisisnya.
Penguasaan ilmu pengetahuan dan metodologi penelitian menjadi sangat penting. Tanpa pemahaman yang memadai, peneliti akan kesulitan menilai ketepatan interpretasi AI dan memahami makna ilmiah dari hasil penelitiannya sendiri.
Kebaruan Penelitian Bisa Keliru
Sebelum melaksanakan penelitian, peneliti perlu mengidentifikasi kesenjangan penelitian atau research gap. Tahapan ini membantu menentukan persoalan yang belum terjawab dan kontribusi ilmiah yang dapat diberikan.
AI dapat membantu menyusun kata kunci, mengelompokkan topik, dan merumuskan pertanyaan penelitian. Namun, penentuan kebaruan memerlukan penelusuran literatur yang cermat oleh si peneliti.
Sebagai contoh, AI mungkin menyatakan bahwa hubungan antara sifat tanah tertentu dan produktivitas tanaman belum pernah diteliti. Pernyataan tersebut dapat keliru apabila model tidak mempunyai akses terhadap seluruh publikasi relevan atau gagal mengenali penelitian dengan istilah berbeda.
Klaim bahwa suatu penelitian merupakan yang pertama harus didukung penelusuran literatur yang sistematis dan dapat diperiksa.
Kesalahan menentukan kebaruan berpotensi mempengaruhi penilaian editor jurnal. Manuskrip dapat ditolak apabila kontribusi ilmiah yang diklaim ternyata telah dilaporkan dalam penelitian sebelumnya.
Dengan demikian, AI dapat membantu mengidentifikasi kemungkinan research gap, tetapi penilaian akhir mengenai kebaruan dan signifikansi tetap menjadi tanggung jawab peneliti.
Tanggung Jawab Peneliti
Siapa yang bertanggung jawab apabila manuskrip mengandung referensi palsu, data keliru, atau kesimpulan yang tidak didukung hasil penelitian? Jawabannya tetap penulis manuskrip.
International Committee of Medical Journal Editors (ICMJE) menegaskan bahwa penulis manusia bertanggung jawab terhadap akurasi, integritas, dan orisinalitas karya yang disusun dengan bantuan AI.
AI tidak dapat dicantumkan sebagai penulis karena tidak mampu memenuhi tanggung jawab akademik untuk menjelaskan dan mempertanggungjawabkan isi penelitian.
Prinsip tersebut relevan bagi berbagai disiplin ilmu. Penggunaan AI untuk membantu penyuntingan bahasa, pengorganisasian informasi, atau analisis tidak mengalihkan tanggung jawab ilmiah kepada teknologi.
Peneliti juga perlu mengikuti kebijakan jurnal mengenai pengungkapan penggunaan AI karena ketentuan setiap penerbit dapat berbeda.
Memeriksa Kebenaran
Risiko halusinasi dapat dikurangi melalui pemeriksaan informasi secara sistematis.
Pertama, pertanyaan kepada AI perlu dirumuskan secara spesifik. Informasi mengenai lokasi penelitian, jenis data, metode, dan tujuan analisis membantu menghasilkan jawaban yang lebih terarah.
Kedua, referensi harus diperiksa melalui sumber aslinya. Google Scholar dapat membantu penelusuran, sedangkan Crossref dan situs penerbit dapat digunakan untuk memeriksa identitas publikasi. Isi artikel tetap perlu dibaca untuk memastikan bahwa sumber mendukung pernyataan yang dikutip.
Ketiga, hasil perhitungan dan interpretasi data harus diverifikasi. Nilai statistik, grafik, dan kesimpulan AI perlu dibandingkan dengan data penelitian.
Keempat, peneliti harus membedakan fakta, interpretasi, dan hipotesis. Fakta diperoleh melalui pengamatan atau pengukuran, interpretasi menjelaskan fakta, sedangkan hipotesis masih memerlukan pengujian.
Kelima, peneliti perlu mengenali keterbatasan informasi. AI dapat diminta menyatakan ketidakpastian, tetapi pengakuan tersebut tidak boleh dijadikan satu-satunya jaminan kebenaran.
Pemeriksaan tetap diperlukan meskipun AI mempunyai kemampuan mencari informasi melalui internet atau membaca dokumen ilmiah secara cepat.
Berpikir Kritis Bersama AI
AI memberikan kemudahan bagi mahasiswa dan peneliti untuk mempelajari konsep, mengembangkan gagasan, serta menyusun karya ilmiah. Namun, manfaatnya sangat bergantung pada kemampuan pengguna mengevaluasi informasi.
Mahasiswa perlu dibiasakan memeriksa sumber, memahami metode penelitian, dan menjelaskan dasar ilmiah dari setiap kesimpulan. Dosen pembimbing berperan memastikan penggunaan AI memperkuat pembelajaran, bukan menggantikan kemampuan menganalisis.
Dalam penelitian, ketepatan data dan kekuatan argumentasi lebih penting daripada kecepatan menghasilkan tulisan. Manuskrip yang tersusun rapi tetap mempunyai kelemahan mendasar apabila referensinya tidak dapat ditemukan atau kesimpulannya tidak sesuai dengan hasil pengukuran.
AI merupakan alat bantu yang bermanfaat, tetapi bukan sumber kebenaran yang dapat diterima tanpa pemeriksaan.
Kualitas penelitian tidak ditentukan oleh seberapa cepat tulisan ilmiah dihasilkan, tetapi oleh ketepatan data, kekuatan bukti, dan kemampuan peneliti mempertanggungjawabkan kesimpulannya.
*) Guru Besar Departemen Ilmu Tanah dan Sumberdaya Lahan, Fakultas Pertanian, dan Sekolah Pascasarjana Universitas Andalas, Padang; Pengurus dan Anggota Himpunan Ilmu Tanah Indonesia (HITI)
Oleh 
Editor:
BETHRIQ KINDY ARRAZY
BETHRIQ KINDY ARRAZY