LONDON – ChatGPAT Search, sebuah fitur yang memungkinkan chatbot kecerdasan buatan (AI) menemukan informasi di web, dilaporkan rentan terhadap manipulasi oleh pengembang dan pemilik situs web, menurut laporan Guardian.
Menurut laporan tersebut, perilaku mesin pencari OpenAI dapat diubah dengan menggunakan teks tersembunyi di situs web. Dikatakan bahwa teks-teks ini digunakan untuk memberikan informasi yang salah dan penipuan kepada AI, dan yang lebih mengkhawatirkan lagi, untuk memberikan injeksi instan ke dalam model AI. Sekadar informasi, OpenAI merilis fitur pencarian GPT untuk semua pengguna minggu lalu.
ChatGPT rentan terhadap manipulasi pencarian
Menurut laporan The Guardian, mesin pencari asli yang didukung OpenAI ini rentan terhadap teknik manipulasi fitur. The Guardian menguji alat tersebut dengan membuat halaman produk tiruan lengkap dengan spesifikasi dan ulasan. Awalnya, halaman tersebut dibiarkan apa adanya, dan ChatGPT mampu memberikan “penilaian positif namun netral”. Namun, keadaan menjadi lebih buruk setelah publikasi tersebut menambahkan teks tersembunyi ke halaman web.
Lebih khusus lagi, teks tersembunyi di situs web mengacu pada konten yang ditambahkan ke kode halaman web tetapi tidak terlihat oleh pengguna saat melihat bagian depan halaman melalui browser. Teks biasanya disembunyikan menggunakan teknik HTML atau CSS. Teks tersebut dapat ditemukan dengan memeriksa kode sumber halaman web atau dengan menggunakan alat web scraping. Yang terakhir ini biasa digunakan oleh mesin pencari.
Setelah menambahkan teks tersembunyi yang berisi sejumlah besar ulasan positif palsu tentang produk tersebut, tanggapan ChatGPT juga menjadi lebih positif dan mulai mengabaikan kekurangan yang terlihat jelas. Penerbitan juga menggunakan injeksi cepat, yang dimasukkan ke dalam sistem AI untuk mengubah perilakunya sesuai keinginan pengembang. Sinyal seperti teks tersembunyi dilaporkan dapat digunakan untuk menginstruksikan chatbot OpenAI agar lebih melibatkan pengguna.
Selain itu, laporan tersebut mengklaim bahwa petunjuk yang dimasukkan ke dalam teks tersembunyi juga dapat digunakan untuk mengembalikan kode berbahaya dari situs web. Publikasi tersebut mengklaim bahwa jika hal ini tidak dihentikan, banyak situs web mungkin menggunakan teknik serupa untuk mencoba mendapatkan umpan balik positif tentang produk dan layanan mereka atau menarik pengguna dengan cara yang berbeda.
(dk)