Dewan pemantau meta memantau penanganan pornografi selebriti yang dibuat oleh AI

Dewan Pengawas Meta Platforms (NASDAQ: META ) sedang menyelidiki penanganan perusahaan terhadap dua foto selebritas wanita yang dibuat secara seksual eksplisit dan dibuat oleh AI yang berkembang biak di platform Facebook dan Instagram, dewan tersebut mengumumkan pada hari Selasa.

Dewan tersebut, yang disponsori oleh raksasa media sosial tersebut namun berfungsi secara independen, akan menggunakan dua contoh tersebut untuk mengevaluasi efisiensi keseluruhan kebijakan Meta dan proses penegakan hukum terhadap pornografi palsu yang dikembangkan dengan kecerdasan buatan, menurut sebuah postingan blog.

Badan tersebut menggambarkan foto-foto yang dipermasalahkan tetapi tidak mengidentifikasi wanita-wanita terkemuka yang ditampilkan di dalamnya untuk “menghindari cedera lebih lanjut,” menurut perwakilan dewan.

Kemajuan dalam teknologi AI telah membuat foto, cuplikan audio, dan video palsu hampir tidak dapat dibedakan dari konten asli buatan manusia, sehingga mengakibatkan lonjakan penyebaran konten palsu seksual secara online, terutama yang menampilkan perempuan dan anak perempuan.

Dalam episode yang sangat terkenal awal tahun ini, platform jejaring sosial X milik Elon Musk untuk sementara waktu melarang pengguna mencari semua foto sensasi pop Amerika Taylor Swift setelah mencoba mengelola penyebaran gambar pornografi palsu dirinya.

Beberapa pemimpin bisnis telah menganjurkan undang-undang untuk melarang pemalsuan "kepalsuan" yang berbahaya dan mewajibkan perusahaan teknologi untuk membatasi penggunaan teknologi mereka.

Menurut penjelasan Dewan Pengawas atas kasus-kasus tersebut, salah satunya adalah gambar seorang wanita telanjang yang dibuat oleh AI dan menyerupai tokoh masyarakat dari India, yang dibagikan oleh akun Instagram yang hanya mendistribusikan foto-foto wanita India yang dibuat oleh AI.

Gambar lainnya, menurut dewan, diposting di grup Facebook untuk berbagi penemuan AI dan menunjukkan gambaran yang dihasilkan AI tentang seorang wanita telanjang yang menyerupai "seorang publik Amerika" dengan seorang pria membelai payudaranya.

Meta mencabut gambar yang mewakili wanita Amerika tersebut karena melanggar kebijakan intimidasi dan pelecehan, yang melarang "photoshop atau gambar yang bersifat seksual dan menghina", namun pada awalnya tetap menggunakan gambar yang menggambarkan wanita India tersebut dan baru membatalkannya setelah dewan memilihnya untuk ditinjau.

Dalam artikel berikutnya, Meta mengakui kasus tersebut dan berkomitmen untuk melaksanakan keputusan dewan.