Bagaimana Chatbot Meta AI Mengutip Data Pribadi dalam Percakapannya?

TEMPO.CO, Jakarta - GALANG Erlangga, pekerja swasta dari Bandung, Jawa Barat, diberondong berbagai keluhan dari nomor tak dikenal sepanjang pekan terakhir Maret 2025. Mereka memprotes layanan komunikasi Telkomsel, Axis, dan Indihome yang bermasalah. Padahal Galang tak pernah bekerja di salah satu penyedia layanan komunikasi tersebut.

Nomor Galang rupanya dibagikan program komputer atau chatbot yang dikembangkan Meta, perusahaan induk yang mengelola WhatsApp, Facebook, dan Instagram. Meta mencantumkan nomor pribadi Galang ketika pengguna chatbot itu mencari layanan komunikasi dan internet lewat percakapan virtual pada kanal Meta AI.

Memeriksa kejadian yang menimpa Galang, tim Cek Fakta Tempo mengumpulkan sejumlah tangkapan layar jawaban Meta AI yang mencantumkan nomor pribadi Galang sebagai customer service Telkomsel, Axis, dan Indihome. Tangkapan layar itu berasal dari arsip milik Galang yang dikumpulkan dari pihak yang menghubunginya. Salah satu pelanggan yang tak mau namanya ditulis mengatakan ia menghubungi nomor Galang setelah bertanya ke fitur chatbot Meta AI.

Tim Cek Fakta menguji perintah yang sama dengan Meta AI pada 17 April dan 24 April 2025. Kami memasukkan perintah (prompt)  “nomor customer service Telkomsel”, “nomor customer service Axis”, dan “nomor customer service Indihome”. Hasilnya, nomor pribadi Galang muncul sebagai customer service tiga perusahaan komunikasi tersebut. Padahal situs resmi perusahaan mencantumkan nomor layanan pelanggan yang berbeda.

Tempo mendokumentasikan jawaban Meta AI di Whatsapp yang mencantumkan nomor pribadi Galang Erlangga sebagai nomor layanan pelanggan Telkomsel, Axis, dan Indihome pada 17 dan 24 April 2025.

Di Amerika Serikat, nomor seluler milik jurnalis senior Rob Price dari Business Insider pernah dibagikan oleh chatbot Meta AI pada Agustus 2024. Kejadian ini bermula saat Price ditambahkan ke grup WhatsApp yang para anggotanya berbincang dalam bahasa Spanyol. Nomor milik Rob dibagikan ke grup itu ketika bercakap-cakap dengan fitur kecerdasan buatan.

Dosen ilmu komputer dari Binus University, Nunung Nurul Qomariyah, menduga kejadian yang menimpa Galang serta Rob disebabkan kekeliruan Meta AI dalam mengambil dan mengolah sumber informasi ketika melatih chatbot. Nomor Galang diduga pernah bocor di Internet sehingga bisa diambil oleh Meta untuk melatih kemampuan chatbot mereka.

Menurut Nunung, data pribadi seperti nomor telepon seluler tak boleh dipakai untuk melatih teknologi kecerdasan buatan. Data itu semestinya melewati proses pembersihan data (data cleansing). “Kemungkinan ada tahap yang terlewat,” kata mantan anggota Artificial Intelligence Research Group di University of York, Inggris, tersebut.

Meta dalam blognya menjelaskan bahwa mereka menggunakan informasi yang dibagikan secara publik. Informasi itu termasuk profil pengguna yang diunggah di jejaring media sosial milik Meta dalam bentuk tulisan, foto, dan keterangan. Meta berkomitmen menghormati privasi pengguna dengan tak menautkan informasi pribadi yang ditemukan di media sosial.

Pendiri Pusat Inovasi Kecerdasan Artifisial dan Teknologi untuk Demokrasi, Damar Juniarto, mengatakan, selama ini tidak ada transparansi mengenai sumber dan data apa saja yang digunakan Meta untuk pengembangan alat kecerdasan buatan. “Kasus ini menunjukkan penggunaan data training yang tidak baik,” kata pengajar Universitas Pembangunan Nasional Veteran, Jakarta tersebut.

Menurut Damar, penyebaran nomor telepon pribadi menjadi bentuk pelanggaran dalam perlindungan data dan privasi warga. Kasus ini juga dapat terjadi pada pengguna lain tanpa ada kepastian siapa dan bagaimana perusahaan teknologi bertanggung jawab kepada korban.  Pemerintah, kata Damar, mestinya bisa menangani persoalan yang dihadapi Galang karena sudah ada Undang-Undang Perlindungan Data Pribadi.

Damar berinisiatif membantu Galang dengan melaporkan kejadian itu kepada koleganya di Meta pada Selasa, 15 April 2025. Menurut dia, Meta telah merespons dengan mengklaim telah memperbarui sistem chatbot sehingga tak lagi menyajikan nomor pribadi saat percakapan di Meta AI. Meta belum merespons wawancara mengenai layanan chatbot-nya yang diajukan tim Cek Fakta hingga Senin, 28 April 2025.

Pada Ahad, 27 April 2025, nomor Galang sudah tak muncul dalam sistem percakapan kecerdasan buatan milik Meta ketika tim Cek Fakta memasukkan perintah untuk mencari nomor customer service.“Maaf kami saat ini tidak bisa membantu Anda terkait permintaan ini,” tulis Meta AI.

**Punya informasi atau klaim yang ingin Anda cek faktanya? Hubungi ChatBot kami. Anda juga bisa melayangkan kritik, keberatan, atau masukan untuk artikel Cek Fakta ini melalui email [email protected]