Organisasi advokasi Austria, Noyb (None of Your Business), kembali melayangkan gugatan terhadap OpenAI, pengembang ChatGPT. Gugatan ini terkait penyebaran informasi keliru yang dihasilkan oleh chatbot kecerdasan buatan tersebut, yang dianggap sebagai “halusinasi” atau kesalahan faktual yang serius.
Gugatan spesifik berpusat pada insiden di mana ChatGPT secara salah menuduh seorang pria Norwegia melakukan pembunuhan. Pria tersebut, saat bertanya informasi tentang dirinya kepada ChatGPT, mendapatkan respons berupa tuduhan pembunuhan dua anak dan percobaan pembunuhan anak ketiga, lengkap dengan hukuman penjara 21 tahun.
Tuduhan tersebut sepenuhnya tidak berdasar. Yang lebih memprihatinkan, ChatGPT menyertakan beberapa data pribadi yang akurat, seperti jumlah anak, jenis kelamin, dan kota tempat tinggal pria tersebut. Kombinasi informasi palsu dan data pribadi yang benar inilah yang membuat kasus ini semakin serius dan dinilai “asbun” (asal bunyi).
Noyb berpendapat bahwa OpenAI melanggar Peraturan Perlindungan Data Umum Uni Eropa (GDPR). Menurut mereka, GDPR mensyaratkan data pribadi harus akurat. Jika tidak akurat, pengguna berhak meminta koreksi. Peringatan singkat di ChatGPT yang menyatakan chatbot dapat melakukan kesalahan dinilai tidak cukup untuk membebaskan OpenAI dari tanggung jawab.
Dampak Negatif Informasi Palsu yang Disebar ChatGPT
Daftar Isi
Kasus ini menyoroti bahaya penyebaran informasi palsu oleh sistem kecerdasan buatan. Tuduhan palsu yang disampaikan oleh ChatGPT berpotensi merusak reputasi, bahkan berdampak pada kehidupan pribadi seseorang secara serius. Kejadian ini menggarisbawahi pentingnya verifikasi informasi dari sumber terpercaya, terutama informasi yang diperoleh dari platform AI.
Kemampuan ChatGPT untuk menggabungkan informasi yang akurat dengan informasi yang sepenuhnya salah menciptakan ilusi kebenaran yang membahayakan. Pengguna cenderung mempercayai informasi yang diberikan oleh sistem AI, terutama jika beberapa detailnya akurat. Hal ini memperkuat pentingnya pengembangan sistem AI yang lebih teliti dan bertanggung jawab.
Tanggung Jawab Pengembang AI
Gugatan Noyb terhadap OpenAI menimbulkan pertanyaan penting tentang tanggung jawab pengembang AI dalam memastikan akurasi dan keamanan informasi yang dihasilkan oleh sistem mereka. Apakah peringatan singkat sudah cukup, atau perlu ada mekanisme verifikasi dan pengendalian yang lebih kuat untuk mencegah penyebaran informasi palsu?
Perkembangan teknologi AI yang pesat memerlukan kerangka regulasi yang komprehensif. Regulasi ini perlu membahas aspek tanggung jawab, transparansi, dan akuntabilitas para pengembang dalam menangani potensi dampak negatif dari teknologi yang mereka ciptakan.
Langkah-langkah Pencegahan di Masa Depan
Untuk mencegah kejadian serupa di masa depan, diperlukan beberapa langkah. Pertama, pengembangan algoritma AI yang lebih handal dan mampu membedakan antara informasi yang akurat dan tidak akurat. Kedua, penelitian lebih lanjut untuk memahami cara kerja “halusinasi” pada model bahasa besar dan cara mencegahnya.
Ketiga, peningkatan transparansi dari pengembang AI mengenai keterbatasan dan potensi kesalahan sistem mereka. Terakhir, edukasi publik tentang pentingnya verifikasi informasi dan sikap kritis terhadap informasi yang diperoleh dari sumber daring, termasuk platform berbasis AI.
Kasus ini menjadi pelajaran berharga bagi pengembang AI dan pengguna teknologi tersebut. Kehati-hatian dan kesadaran akan potensi kesalahan adalah kunci untuk memanfaatkan teknologi AI secara bertanggung jawab dan meminimalkan dampak negatifnya.
