Hati-hati, Jangan Umbar Video Intim Bermotif Balas Dendam di Facebook
- Pixabay.com/Geralt
VIVA – Raksasa media sosial Facebook mulai memperluas pemanfaatan teknologi kecerdasan buatan atau artificial intelligence (AI) untuk memoderasi konten yang diunggah di platformnya. Yang terbaru, AI besutan Facebook ini mampu mendeteksi dan menandai konten pornografi, termasuk di dalamnya unsur balas dendam secara masif.
Hal tersebut untuk memastikan tidak ada pelanggaran di Pedoman Komunitas. Dikutip dari situs Ubergizmo, Senin, 18 Maret 2019, balas dendam dapat digambarkan sebagai foto dan video intim yang diunggah tanpa adanya persetujuan korban di dalam video.
Kasus ini telah banyak dikriminalisasi di beberapa negara, dan jelas bahwa jenis postingan ini tidak diizinkan beredar di media sosial.
Kepala Keamanan Global Facebook, Antigone Davis menuturkan, kecerdasan buatan milik Facebook akan memastikan jenis konten seperti ini tidak akan lagi lolos di platform milik mereka, baik Facebook maupun Instagram.
Tidak seperti filter yang ada saat ini, ia mengklaim bahwa fitur barunya ini mampu mendeteksi konten yang 'hampir telanjang'. Konten yang ditandai AI akan ditinjau kembali oleh moderator manusia.
Hal ini merupakan perubahan yang signifikan dari cara penanganan sebelumnya. Pengguna Facebook dan Instagram yang menjadi korban konten balas dendam harus melaporkan dengan alasan karena korban sering kali tahu tetapi enggan untuk melaporkannya.
"Seringkali para korban takut akan kasus yang menimpa dirinya. Sehingga, mereka enggan melaporkan kontennya sendiri atau tidak mengetahui konten tersebut telah disebarluaskan," kata Davis.
Jika pengguna tidak mengetahuinya, ia mengatakan, maka AI secara otomatis menandai konten dan mengirimkannya ke moderator manusia untuk ditinjau sebelum ada yang melaporkan. Davis juga telah menjelaskan bagaimana fitur ini bekerja, serta teknik apa yang mereka gunakan untuk menandai konten balas dendam. (ann)