Jakarta, CNBC Indonesia – Dewan pengawas Meta sedang mengkaji respons Instagram dan Facebook atas beredarnya dua gambar porno selebritas perempuan buatan AI, di kedua platform tersebut.
Dewan pengawas (Oversight Board) Meta adalah sekelompok ahli yang bekerja secara independen dan didanai oleh perusahaan. Dua gambar porno palsu buatan AI tersebut dijadikan contoh untuk menilai efektivitas kebijakan dan praktik Meta dalam menangani pornografi buatan AI.
Dalam blog resminya, Oversight Board Meta tidak menyebut identitas perempuan terkenal yang rupanya dipalsukan oleh AI menjadi gambar porno.
Menurut Reuters, teknologi AI yang tersedia saat ini membuat pemalsuan gambar, suara, dan video yang sulit dibedakan dari konten asli makin mudah. Media sosial menjadi banjir dengan konten seksual palsu yang dibuat dengan AI, kebanyakan menggambarkan perempuan dewasa dan perempuan di bawah umur.
Salah satu peristiwa penyebaran gambar porno buatan AI yang membuat heboh dunia adalah gambar palsu Taylor Swift yang beredar di media sosial X. Perusahaan media sosial milik Elon Musk yang dulu bernama Twitter tersebut saat itu kewalahan dalam membendung peredaran gambar palsu Taylor Swift.
Beberapa pelaku industri mendorong penyusunan aturan kriminal yang menghukum kreasi gambar palsu yang biasa disebut deep fakes tersebut. Perusahaan penyedia platform AI juga didorong untuk memblokir penggunaan teknologinya untuk membuat gambar porno.
Kasus pertama yang menjadi bahan kajian Meta adalah gambar telanjang buatan AI yang menyerupai tokoh terkenal dari India. Gambar itu diunggah di salah satu akun Instagram yang dibuat untuk membagikan foto perempuan India.
Kasus kedua adalah munculnya gambar yang mirip dengan selebritas asal Amerika Serikat di sebuah grup Facebook. Selebritas tersebut digambarkan telanjang bersama seorang pria yang memegang buah dadanya.
Gambar mirip perempuan Amerika di-take down oleh Meta karena melanggar kebijakan anti-bullying dan pelecehan. Kebijakan ini melarang “gambar atau hasil photoshop yang merendahkan secara seksual.”
Instagram awalnya tidak mengambil tindakan atas gambar yang menampilkan perempuan India. Namun, dewan pengawas Meta turun tangan sehingga gambar tersebut juga di-take down.
