Meta diduga menjalankan proyek rahasia yang melibatkan ratusan pekerja kontrak untuk menyamar sebagai remaja dan menguji ketahanan sistem kecerdasan buatan (AI) milik perusahaan pesaing. Mengutip laporan CNN Indonesia yang melansir Wired, proyek tersebut bernama Cannes dan dikelola oleh perusahaan kontraktor Covalen.
Dalam proyek tersebut, para pekerja menggunakan akun palsu yang mengaku sebagai pengguna berusia di bawah 18 tahun. Mereka kemudian mengirimkan ribuan prompt dengan berbagai topik sensitif, mulai dari bunuh diri, gangguan makan, seks, hingga kanibalisme, kepada sejumlah chatbot seperti ChatGPT, Gemini, dan Character.AI.
Pengujian itu dilakukan untuk melihat sejauh mana sistem AI dapat merespons permintaan berisiko serta apakah model tersebut mampu dipancing untuk memberikan jawaban yang melanggar sistem pengaman (guard rails).
Dalam satu sesi pengujian, terdapat sekitar 38 ribu prompt yang dikirimkan. Ratusan di antaranya berkaitan dengan isu bunuh diri, menyakiti diri sendiri, dan gangguan makan. Beberapa skenario bahkan dibuat dari sudut pandang anak-anak dan remaja untuk mengamati respons chatbot terhadap kondisi yang sangat sensitif.
Selain teks, para pekerja juga mengirimkan berbagai gambar terkait obat-obatan, senjata tajam, hingga ilustrasi prosedur medis. Seluruh respons yang diberikan chatbot kemudian dicatat secara rinci dalam lembar kerja digital sebagai bahan evaluasi.
Namun, proses pengujian tersebut juga memunculkan kekhawatiran dari sejumlah pekerja kontrak. Beberapa di antaranya mengaku mengalami tekanan psikologis karena harus membaca serta menyusun skenario yang mengandung unsur kekerasan dan penyimpangan.
Salah seorang kontraktor mengaku terkejut dengan materi yang harus diuji dan mempertanyakan apakah metode tersebut dapat dibenarkan.
Menanggapi tudingan tersebut, Meta menyatakan bahwa pengujian keamanan terhadap model AI merupakan praktik yang umum dilakukan dalam industri teknologi. Namun, CEO Humane Intelligence PBC, Rumman Chowdhury, menilai metode tersebut telah melewati batas evaluasi yang wajar. Penggunaan akun palsu yang menyamar sebagai anak-anak serta kerahasiaan proyek tersebut menimbulkan persoalan etika dan berpotensi mengarah pada praktik persaingan usaha yang tidak sehat. (Eka)
