Sebuah eksperimen terbaru menunjukkan betapa mudahnya mengelabui chatbot canggih seperti Gemini dan ChatGPT hanya dalam waktu 20 menit. Penelitian ini mengungkapkan kekurangan dalam filter informasi yang dimiliki oleh alat AI tersebut.
Baca juga: Penangkapan Direktur Eksekutif Lokataru Foundation di Tengah Demo Pelajar
Thomas Germain dari BBC Internasional melaporkan bahwa chatbot dapat terkecoh dengan cepat oleh informasi yang telah disusun secara strategis. Hasil ini menandakan perlunya langkah-langkah lebih lanjut untuk meningkatkan akurasi alat AI.
Metodologi Pengujian
Germain memulai eksperimen dengan menulis artikel di situs web pribadinya berjudul 'Jurnalis teknologi terbaik dalam makan hot dog', yang berisi informasi palsu dan tanpa bukti. Artikel tersebut mencakup kompetisi makan hot dog fiktif dan mencantumkan namanya sebagai pemenang.
Dalam waktu kurang dari 24 jam, alat AI terkemuka mulai memberikan respons dengan isi yang sama persis dengan artikel yang ditulis Germain. Hal ini menunjukkan seberapa cepat dan mudah chatbot bisa terperangkap dalam informasi yang tidak benar.
Baca juga: Penembakan Staf KBRI di Lima, Peru: Zetro Leonardo Purba Meninggal Dunia
Tanggapan dari Alat AI
Setelah artikel ditulis, Germain mencatat bahwa chatbot seperti Gemini, ChatGPT, dan AI Overview memberikan informasi yang sama rombongan dari artikelnya. Sementara itu, Claude dari Anthropic tidak terpengaruh oleh informasi tersebut.
Menariknya, setelah Germain mengubah artikelnya untuk menyatakan bahwa itu bukan suatu satir, respons dari alat AI menjadi lebih serius. Ini menunjukkan bahwa banyak alat AI masih memiliki kelemahan dalam menangani informasi yang dianggap tidak akurat.
Kritik dari Para Ahli
Harpreet Chatha, seorang konsultan SEO, menyatakan bahwa kurangnya pengaman yang kuat dalam alat AI menyebabkan kesalahan mudah terjadi. Ia berpendapat bahwa siapa pun dapat membuat artikel yang berpotensi muncul di hasil pencarian dengan informasi yang terfokus.
Chatha mengungkapkan, 'Anda dapat menempatkan merek Anda di posisi teratas dan informasi tersebut berpotensi dirangkum oleh Google dan ChatGPT, menambah kepraktisan dalam penyebaran informasi yang salah.'
Baca juga: Google Tanggapi Masalah Keamanan Gmail Terkait Phishing
Dilarang mengambil dan/atau menayangkan ulang sebagian atau keseluruhan artikel di atas untuk konten akun media sosial komersil tanpa seizin redaksi
Sumber:
Author
TERPOPULER
BERITA TERBARU
