KALIMANTAN UTARA — Firma konsultan dan akuntansi KPMG, yang masuk dalam jajaran "Big Four" bersama Deloitte, PwC, dan Ernst & Young, baru saja menghadapi insiden memalukan. Sebuah laporan yang mereka rilis pada Oktober 2024 tentang bagaimana perusahaan menggunakan AI untuk melayani pelanggan ternyata sarat dengan informasi palsu. Laporan tersebut kini telah ditarik dari peredaran.
Hanya 5 dari 45 Kutipan yang Akurat
Investigasi dilakukan oleh GPTZero, pengembang alat pendeteksi konten buatan AI. Mereka memeriksa setiap kutipan dan klaim dalam laporan setebal puluhan halaman itu. Hasilnya mencengangkan: dari 45 catatan kaki yang ada, hanya lima yang benar-benar mengarah ke sumber yang valid.
Sebanyak 28 kutipan lainnya memparafrase judul atau menambahkan komponen palsu ke sumber yang nyata. Sementara itu, 12 kutipan ditulis terlalu samar sehingga tidak bisa diverifikasi keberadaannya. GPTZero menyebut fenomena pembuatan referensi palsu oleh model AI ini sebagai "vibe citing."
Klaim Fiktif soal Emirates dan UBS
Tidak hanya kutipan yang bermasalah. Sekitar setengah dari klaim dalam laporan tersebut ternyata palsu atau salah atribusi. GPTZero menduga ini terjadi karena alat riset AI "terlalu patuh" saat diminta mencari contoh nyata penerapan agentic AI di dunia.
Salah satu contohnya adalah klaim KPMG bahwa maskapai Emirates meluncurkan chatbot bernama Sara yang bisa berbicara dengan penumpang dan mengubah jadwal penerbangan. Faktanya, Sara adalah asisten seluler yang dirilis tahun 2023, bukan chatbot bertenaga AI, dan tidak memiliki wewenang mengubah pemesanan tiket.
KPMG juga menulis bahwa bank investasi UBS telah mengintegrasikan agentic AI ke dalam layanan konsultasi investasi, manajemen risiko, dan pemantauan kepatuhan. Pihak UBS langsung membantah dan menyebut informasi itu "tidak benar secara faktual."
Klaim lainnya menyebut perusahaan kereta api Swiss, SBB, memiliki agen AI yang membantu penumpang merencanakan dan memesan perjalanan berdasarkan preferensi pribadi dan kondisi real-time. Seorang juru bicara SBB mengatakan pernyataan itu "tidak akurat."
Risiko "Meracuni" Informasi Global
CEO GPTZero, Edward Tian, mengatakan bahwa laporan dari firma sekelas KPMG biasanya dijadikan referensi oleh peneliti dan jurnalis lain. Jika isinya penuh kesalahan, efeknya bisa berantai dan memperparah penyebaran halusinasi AI di ranah publik.
"Laporan yang penuh kesalahan dari Big Four bisa meracuni sumber informasi dan menyebabkan halusinasi AI tingkat kedua," ujar Tian.
Seorang juru bicara KPMG menyatakan bahwa perusahaan "menganggap serius akurasi dan integritas konten yang dipublikasikan." KPMG telah menarik laporan tersebut dan sedang "meninjau keadaan seputar penerbitannya."
