Beberapa perusahaan media sosial terbesar berkolaborasi dalam program untuk mencegah penyebaran konten bunuh diri atau bunuh diri secara online.
Meta, Snapchat, dan TikTok semuanya telah menandatangani kontrak untuk bermitra dengan Koalisi Kesehatan Mental pada aplikasi Thrive baru, yang diumumkan pada Kamis (12 September).
Rencana tersebut melibatkan perusahaan teknologi yang berpartisipasi dalam berbagi sinyal tentang konten yang bersifat bunuh diri atau merugikan diri sendiri sehingga perusahaan lain dapat menyelidiki dan mengambil tindakan jika konten yang sama dibagikan di platform mereka.
“Kami di MHC sangat bersemangat untuk bekerja sama dengan Thrive; A kolaborasi unik dari platform media sosial paling berpengaruh yang bersatu untuk menghilangkan konten menyakiti diri sendiri dan bunuh diri.
“Meta, Snap, dan TikTok adalah beberapa mitra awal yang bergabung dalam ‘berbagi’ ini, berkomitmen untuk memberikan dampak yang lebih besar dan membantu menyelamatkan nyawa,” kata Kenneth Cole, pendiri Koalisi Kesehatan Mental.
Jika konten tersebut menimbulkan kekhawatiran, perusahaan yang terlibat akan diberi tahu dan kemudian menilai secara independen apakah akan mengambil tindakan.
CEO Thrive Dr. Dan Reidenberg menggambarkan proyek ini sebagai “terobosan besar”:
“Integrasi pertukaran sinyal, dikombinasikan dengan kolaborasi interdisipliner dan moderasi mediator yang independen dan netral, mewakili kemajuan besar dalam kolaborasi industri dan perlindungan publik terhadap krisis global, bunuh diri kesehatan masyarakat, dan pada akhirnya menyelamatkan nyawa.”
Kami bangga menjadi anggota pendiri Thrive, sebuah program baru yang memungkinkan perusahaan teknologi berbagi sinyal tentang konten yang melanggar atau merugikan diri sendiri dan menghentikannya agar tidak menyebar ke berbagai platform.
— Ruang Berita Meta (@MetaNewsroom) 12 September 2024
Bagaimana cara kerja teknologi berbagi sinyal untuk mengatasi konten yang merugikan diri sendiri?
Infrastruktur teknis di balik Thrive disediakan oleh Meta dan merupakan teknologi yang sama yang mereka sediakan untuk program Lantern Tech Coalition, yang juga memungkinkan berbagi sinyal.
“Perusahaan yang berpartisipasi akan mulai membagikan hash – kode numerik yang sesuai dengan konten ofensif – gambar dan video yang menggambarkan bunuh diri dan bunuh diri secara grafis, serta konten gambar atau bunuh diri viral atau promosi menyakiti diri sendiri,” tulis Meta dalam pengumumannya.
“Kami memprioritaskan konten ini karena cenderung menyebar ke berbagai platform dengan cepat. Sinyal awal ini hanya mewakili konten dan tidak berisi informasi yang dapat diidentifikasi tentang akun atau individu mana pun.”
Pos Meta, Snapchat, dan TikTok bekerja sama untuk mencegah konten terkait bunuh diri muncul di ReadWrite.
