Komisi Eropa telah mengirimkan permintaan informasi mengenai desain dan pengoperasian sistem rekomendasi ke YouTube, Snapchat, dan TikTok. Sistem pemberi rekomendasi adalah algoritme pembelajaran mesin yang menggunakan data untuk menyarankan item yang mungkin diminati pengguna.
Namun, berdasarkan Undang-Undang Layanan Digital (DSA), yang merupakan peraturan utama moderasi konten di UE, Komisi berpendapat bahwa hal-hal tersebut adalah “inti” risiko sistemik yang ditimbulkan oleh platform kepada pengguna.
Dalam pernyataan yang dipublikasikan pada Rabu (2 September), Komisi Uni Eropa dikatakan: “Berdasarkan DSA, platform harus menilai dan memitigasi secara memadai risiko yang timbul dari sistem pemberi rekomendasi mereka, termasuk risiko terhadap kesehatan mental pengguna dan penyebaran konten berbahaya yang timbul dari desain algoritme ini.”
Kami meminta informasi dari YouTube, Snapchat, dan TikTok tentang desain sistem rekomendasi mereka berdasarkan Undang-Undang Layanan Digital.
YouTube dan Snapchat perlu merinci parameter algoritme dan mitigasi risikonya.
TikTok harus mengambil tindakan terhadap manipulasi dan… pic.twitter.com/usQkKHfPH4
– Komisi Eropa (@EU_Commission) 2 Oktober 2024
Permintaan tersebut “juga berkaitan dengan langkah-langkah platform tersebut untuk mengurangi dampak potensial dari sistem pemberi rekomendasi mereka terhadap penyebaran konten ilegal, seperti promosi obat-obatan terlarang dan ujaran kebencian.”
Komisi tersebut mengatakan telah meminta TikTok untuk memberikan lebih banyak informasi tentang langkah-langkah perusahaan untuk mencegah praktik buruk di platform tersebut dan mengurangi risiko terkait pemilu dan perdebatan sipil.
YouTube dan Snapchat harus menjawab pertanyaan terkait parameter algoritme rekomendasi mereka dan potensi perannya dalam meningkatkan risiko sistemik, termasuk terkait perlindungan anak di bawah umur.
Ketiga perusahaan media sosial tersebut diberi waktu hingga 15 November untuk memberikan informasi. UE mengatakan tanggapan mereka akan menginformasikan langkah-langkah lebih lanjut, termasuk kemungkinan membuka penyelidikan formal dan kemungkinan denda.
UE sedang membuka kasus resmi terhadap Meta
UE sebelumnya telah meluncurkan kasus ketidakpatuhan berdasarkan DSA, yang memaksa perusahaan teknologi untuk mengambil tindakan lebih keras terhadap konten ilegal dan berbahaya di platform mereka. Uji coba tersebut terkait dengan rekomendasi yang diberikan Meta Facebook dan Instagram, AliExpress dan TikTok.
Komisi tersebut tidak membahas perusahaan induk Meta, Facebook dan Instagram, karena pertanyaan yang sama juga diajukan dalam proses formal terhadap perusahaan tersebut pada bulan Mei.
ReadWrite melaporkan bahwa lembaga tersebut khawatir bahwa sistem Facebook dan Instagram, termasuk algoritme mereka, dapat mendorong perilaku kecanduan pada anak-anak, serta menciptakan apa yang disebut “efek lubang kelinci.”
Gambar Unggulan: Pertengahan Perjalanan
Pesan UE kepada YouTube, Snapchat, dan TikTok tentang sistem rekomendasi AI muncul pertama kali di ReadWrite.
