Instagram Siapkan AI Khusus Cegah CyberBullying

Internet sering kali bisa menjadi tempat yang sangat beracun. Orang-orang dapat mengungkapkan pendapat mereka tentang sesuatu yang Anda lakukan atau hanya tentang cara Anda menjalani hidup Anda dengan cara yang sangat ofensif. Cyberbullying juga terus menjadi masalah dan di jejaring sosial, dan itu tampaknya tidak akan hilang dalam waktu dekat.

Instagram sebagai salah satu media sosial terbesar saat ini juga memiliki masalah besar dengan intimidasi online di platformnya.  Adam Mosseri sebaga kepala dari perusahaan milik Facebook tersebut, mengatakan ia lebih suka memiliki lebih sedikit pengguna daripada membiarkan pelaku intimidasi berkembang. Oleh karenanya Instagram terus mengambil langkah-langkah untuk mencegah bullying dan komentar ofensif pada platformnya.

Tapi bukannya memblokir posting atau melarang pelanggar, Mosseri telah mengumumkan bahwa alat baru akan diluncurkan di Instagram untuk mengekang penyebaran intimidasi online. Satu fitur baru akan menggunakan kecerdasan buatan (AI) untuk mengidentifikasi komentar ofensif, sementara yang lain akan memberikan pengguna kekuatan untuk membatasi akun tertentu dari mengomentari tulisan mereka secara publik.

Mosseri berharap alat-alat ini akan membantu mencegah bullying dari terjadi di Instagram dan memberdayakan para target bullying untuk membela diri mereka sendiri.

Alat Rethink yang diberdayakan oleh AI akan menandai komentar yang dapat dianggap ofensif sebelum di-posting. Pengguna akan ditanya, “Are you sure you want to post this?”. Itu memberi mereka kesempatan untuk mempertimbangkan kembali kata-kata mereka.

Menurut Instagram, tes telah menunjukkan bahwa pemberitahuan untuk memikirkan kembali komentar mereka telah mendorong beberapa pengguna untuk membatalkan komentar mereka dan berbagi sesuatu yang kurang menyakitkan sebagai gantinya. Pesan tersebut memberi mereka kesempatan untuk merefleksikan diri dulu sebelum mem-posting.

Namun, beberapa tampaknya tidak terlalu tergugah oleh pesan tersebut. Jadi untuk komentar yang melewati filter AI, ada cara lain yang memberikan lebih banyak kekuatan pada pengguna yang ditargetkan oleh komentar ofensif.

Moserri mengatakan bahwa seringnya intimidasi online tidak dilaporkan karena target takut bahwa memblokir pengguna dapat mengakibatkan dampak yang lebih berat. Untuk memberdayakan orang-orang ini, Instagram akan segera meluncurkan alat kedua yang disebut Restrict yang pada dasarnya memberikan target intimidasi kekuatan untuk memblokir pelaku intimidasi tanpa diketahui orang yang akan diblokir atau istilah kerennya shadow ban.

Pengguna yang dibatasi akan terus melihat posting dari target mereka seperti biasanya, tetapi tidak akan dapat melihat apakah pengguna sedang online atau telah membaca posting mereka. Pengguna yang ditargetkan akan memiliki kekuatan untuk meninjau komentar apapun dari pelaku - mereka dapat menyetujui konten untuk dilihat, dihapus, atau ditangguhkan oleh semua orang sehingga tidak terlihat oleh semua orang kecuali pelaku.

Target tidak akan harus melihat komentar jika mereka tidak mau - itu akan disembunyikan di balik "sensitivity screen" yang perlu ditekan terlebih daulu sebelum bisa terlihat isinya.

Pengguna yang sudah di shadow ban yang mengirim pesan langsung ke target mereka akan melihat percakapan di kotak masuk mereka, tetapi target tidak akan menerima pemberitahuan untuk pesan baru dan tidak akan dapat melihat percakapan sama sekali. Alih-alih, pesan ini akan dikirim ke tempat spam. Jika target ingin melihat dan merespons pesan tersebut, mereka harus melepaskan dulu shadow ban terhadap si pengganggu.

[Ard/tim BX]