Apakah ChatGPT Suka Ngarang dan Halusinasi?

TRIBUNBANYUMAS.COM, Menanggapi berita CNBC Indonesia berjudul “ChatGPT Suka Ngarang Sendiri, Penciptanya Bingung Banyak yang Percaya” (08 Juli 2025), pakar ilmu pertahanan dan intelijen lulusan Australian Defence Force Academy (ADFA), Dr. Isroil Samihardjo, menyatakan bahwa fenomena hallucination atau ketidakakuratan jawaban ChatGPT sudah seharusnya disikapi dengan bijak.

Doktor Isro Justru melihat bahwa manfaat penggunaan ChatGPT jauh lebih besar dibandingkan dengan kekurangannya. Ia mengungkapkan, sebagai pengguna intensif selama berbulan-bulan, ia merasakan setidaknya enam aspek utama yang membuat ChatGPT menjadi alat bantu kerja yang luar biasa. 

Menurut Dr. Isro yang pernah menjadi pejabat di Kementerian Pertahanan dan Badan Intelijen Negara (BIN) itu, enam aspek tersebut adalah:  

1. Refleksi diri dan kejernihan berpikir (Self-Reflection & Intellectual Clarity). 
2. Membantu merumuskan gagasan yang masih mentah menjadi lebih terstruktur dan siap untuk dieksekusi.
3. Penghematan waktu.
4. Mampu menghasilkan analisis dan tulisan dengan sangat cepat, sehingga pengguna dapat fokus pada hal-hal yang lebih strategis.
5. Aspek kolaboratif menjadi mitra diskusi yang hangat, kritis, dan adaptif — membuat proses berpikir terasa seperti berbicara dengan manusia. Pengetahuan Ilmiah (Scientific Knowledge). 
6. Memperkaya wawasan lokal pengguna dengan referensi dan kerangka ilmiah global. Pemantik Pemikiran Baru (Advance Thought). 
7. Seringkali memunculkan ide-ide segar yang sebelumnya tidak terpikirkan oleh penggunanya.
8. Multitasking dan penjaga momentum (Multitasking and Momentum Keeper). Dalam hal ini ChatGPT dapat digunakan untuk membantu mengelola beberapa pekerjaan secara bersamaan tanpa kehilangan fokus atau momentum.  Lebih lanjut, Dr. Isro  menegaskan bahwa ChatGPT adalah alat bantu, bukan sumber kebenaran absolut. Oleh karena itu, pengguna perlu tetap berpikir kritis dan melakukan verifikasi fakta atas setiap jawaban yang dihasilkan. 

Dr. Isro menyatakan bahwa ChatGPT memiliki beberapa keterbatasan yang tidak bisa sepenuhnya dilakukan secara komprehensif oleh mesin AI tersebut, antara lain pemilihan variabel atau faktor-faktor yang terkait dengan analisisnya.