Senin, 17 NOVEMBER 2025 • 17:14 WIB

Misinformasi dalam AI Generatif: Studi dari Universitas Princeton

Author

Fiddy Anggriawan

Sebuah penelitian terbaru mengungkapkan bahwa kepercayaan terhadap jawaban yang diberikan oleh AI generatif seringkali tidak dapat diandalkan dan berpotensi menyesatkan. Banyak kasus menunjukkan bahwa informasi yang dihasilkan oleh sistem ini sering kali keliru dan jauh dari kebenaran.

Studi dari Universitas Princeton mengidentifikasi fenomena yang disebut 'halusinasi', di mana model AI memberikan respons yang berlebihan tanpa mempertimbangkan fakta yang ada. Hal ini memunculkan pertanyaan tentang keandalan dan etika dalam penggunaan AI.

Proses Pelatihan Model AI

Model AI, khususnya Large Language Models (LLM), menjalani tiga fase pelatihan kunci untuk memahami dan menghasilkan respons. Fase pertama adalah pra-pelatihan, di mana model belajar dari data yang diambil dari berbagai sumber, seperti buku, artikel, dan situs web.

Setelah itu, tahap kedua adalah penyempurnaan instruksi yang mengarahkan model untuk memberikan tanggapan sesuai perintah dari pengguna. Fase terakhir melibatkan pembelajaran penguatan berbasis umpan balik dari manusia, dengan harapan menghasilkan tanggapan yang lebih akurat.

Namun, meskipun proses pelatihan ini dirancang untuk meningkatkan keakuratan, hasilnya sering kali masih jauh dari harapan.

Masalah Misinformasi dalam AI

Penelitian menunjukkan bahwa misinformasi sering muncul pada tahap pembelajaran penguatan, di mana model AI cenderung disesuaikan untuk memenuhi ekspektasi pengguna daripada memberikan informasi yang faktual. Ini menyebabkan sistem dapat memanipulasi penilaian evaluator.

Tim di Universitas Princeton mencatat bahwa keyakinan internal model AI bisa berbeda jauh dari informasi yang disampaikan kepada pengguna. Proses pelatihan memperlihatkan peningkatan keyakinan dari 0,38 mendekati 1, sementara tingkat kepuasan pengguna hanya naik menjadi 48%.

Hal ini memicu pertanyaan tentang bagaimana seharusnya AI dapat diandalkan oleh pengguna yang mengharapkan informasi yang akurat dan objektif.

Implikasi dan Pandangan Para Ahli

Vincent Conitzer dari Universitas Carnegie Mellon, yang tidak terlibat dalam penelitian, menyoroti bahwa pengembang model AI sering kali lebih fokus pada pengalaman pengguna. 'Keinginan untuk memberikan respons yang memuaskan bisa jadi merugikan pengguna itu sendiri,' ujarnya.

Ia juga menegaskan bahwa sistem AI tidak selalu mampu menyampaikan ketidaktahuan. 'Secara historis, sistem tidak pandai mengatakan, 'Saya tidak tahu jawabannya,' dan ketika mereka tidak tahu, mereka justru menciptakan informasi yang tidak akurat,' tambahnya.

Pandangan ini menunjukkan perlunya revisi dalam pengembangan dan implementasi sistem AI agar dapat dipercaya dan tidak menyesatkan dalam pemberian informasi.