Program komputer memantau setiap kata siswa demi keselamatan

Oleh Madison Fitzgerald, Stateline.org (TNS)

Baik itu proyek penelitian tentang Perang Saudara atau eksperimen sains tentang letusan gunung berapi, siswa di Sekolah Distrik Kolonial dekat Wilmington, Delaware, dapat mencari apa pun di laptop sekolah mereka.

Namun dalam satu kasus, seorang siswa sekolah dasar menelusuri “cara mati”.

Dalam kasus tersebut, Megan Feby, seorang konselor sekolah dasar di wilayah tersebut, menerima panggilan telepon melalui platform tersebut. Suar Penjaga Goyang algoritmanya menandai frasa itu. Sistem tersebut, yang dijual oleh perusahaan perangkat lunak pendidikan GoGuardian, memungkinkan sekolah untuk memantau dan menganalisis apa yang dilakukan pada perangkat yang dikeluarkan sekolah dan aktivitas apa pun yang mungkin mengindikasikan risiko melukai diri sendiri atau ancaman terhadap orang lain.

Siswa yang mencari “cara mati” tidak ingin mati dan tidak menunjukkan tanda-tanda kesusahan, kata Phoebe – siswa tersebut mencari informasi, tetapi tidak dalam bahaya. Meski demikian, ia mengapresiasi program tersebut.

“Saya mengalami beberapa situasi dengan GoGuardian dan saya sangat senang mereka datang kepada kami dan kami dapat melakukan intervensi,” kata Feby.

Distrik sekolah di seluruh negeri telah mengadopsi platform pemantauan komputer semacam itu secara luas. Para ahli mengatakan krisis kesehatan mental remaja yang disebabkan oleh pandemi COVID-19 dan kekerasan di sekolah yang menimpa siswa K-12 di seluruh negeri membuat para guru putus asa untuk mengatasinya.

Namun para kritikus khawatir tentang kurangnya transparansi dari perusahaan yang memiliki wewenang untuk memantau siswa dan memilih kapan harus memberi tahu pejabat sekolah. Pengawasan yang sedang berlangsung terhadap siswa juga menimbulkan kekhawatiran tentang data siswa, privasi, dan kebebasan berekspresi.

Meskipun telah tersedia selama lebih dari satu dekade, program ini mengalami peningkatan penggunaan selama pandemi karena siswa beralih ke pembelajaran online dari rumah, kata Jennifer Jones, staf pengacara di Knight Corrections Institute.

“Saya pikir karena ada berbagai macam masalah yang harus dihadapi oleh distrik sekolah – seperti masalah kesehatan mental siswa dan risiko penembakan di sekolah – saya pikir hal tersebut [school districts] Anggap saja secara rasional sebagai solusi yang murah dan cepat tanpa mempertanyakan kebebasan berbicara dan privasi,” kata Jones.

Menurut perilaku berisiko terkini kaum muda pertanyaan Menurut Pusat Pengendalian dan Pencegahan Penyakit federal, hampir semua indikator kesehatan mental yang buruk, pikiran untuk bunuh diri, dan perilaku bunuh diri meningkat dari tahun 2013 hingga 2023. Pada periode yang sama, persentase siswa sekolah menengah atas yang diancam atau terluka di sekolah tidak masuk sekolah. Menurut CDC, masalah keamanan atau pemaksaan seks semakin meningkat laporan.

Dan ancaman penembakan di sekolah masih menjadi pikiran banyak guru. Sejak penembakan di Sekolah Menengah Columbine pada tahun 1999, kata mereka, lebih dari 383.000 siswa mengalami kekerasan bersenjata di sekolah. Edisi Washington Post.

CEO GoGuardian Rich Press mengatakan kepada Stateline bahwa hampir setengah sekolah negeri K-12 di Amerika Serikat telah memasang platform perusahaan tersebut.

Sebagai penerima tugas sekolahnya, Phoebe menerima peringatan saat siswa menggunakan istilah penelusuran atau kumpulan kata tertentu di laptop yang dikeluarkan sekolah. “Itu datang kepada saya sebagai email, atau jika risikonya terlalu tinggi, itu datang sebagai panggilan telepon.”

Setelah dia diberitahu, Phoebe memutuskan untuk bertemu dengan siswa tersebut atau menelepon ke rumah anak tersebut. Jika sistem mendeteksi aktivitas yang mengganggu di luar jam sekolah, GoGuardian Beacon akan menghubungi orang lain di kota tersebut, termasuk penegak hukum di beberapa distrik sekolah.

Phoebe mengatakan dia mendapat beberapa peringatan palsu. Seorang siswa ditandai karena lirik yang dia cari. Yang lain sedang mencari sesuatu yang berhubungan dengan anime.

Sekitar sepertiga siswa Phoebe berasal dari rumah di mana bahasa Inggris bukan bahasa pertama mereka, sehingga siswa sering kali menggunakan istilah-istilah bahasa Inggris yang mengganggu secara tidak sengaja. Anak-anak juga bisa penasaran, katanya.

Meski begitu, kehadiran GoGuardian di kelas itu penting, kata Feby. Sebelum menjadi konselor 10 tahun lalu, dia adalah seorang guru sekolah. Dan setelah penembakan massal di Sekolah Dasar Sandy Hook pada tahun 2012, dia menyadari bahwa keselamatan sekolah menjadi lebih penting dari sebelumnya.

Informasi dan privasi

Teddy Hartman, kepala petugas privasi GoGuardian, mengajar bahasa Inggris di sebuah sekolah menengah di Los Angeles Timur dan menjadi kepala sekolah sebelum bergabung dengan perusahaan teknologi tersebut sekitar empat tahun lalu.

Hartman bergabung dengan GoGuardian untuk membantu membangun program privasi yang kuat, termasuk perlindungan terhadap penggunaan kecerdasan buatan.

“Kami berpikir, ‘Bagaimana kita bisa berkreasi dengan para pendidik, ilmuwan data terbaik, ahli teknologi terbaik, dan pada saat yang sama mengingat bahwa siswa dan guru kita adalah yang utama?’” kata Hartman.

Hartman mengatakan GoGuardian tidak menggunakan data siswa apa pun di luar perjanjian yang diizinkan oleh distrik sekolah, dan data tersebut tidak digunakan untuk melatih AI perusahaan. Perusahaan yang mengatur apa yang boleh dilakukan anak-anak secara online juga diharuskan untuk mematuhinya hukum federal tentang keselamatan dan privasi anak di bawah umur, termasuk Undang-Undang Hak Pendidikan dan Privasi Keluarga serta Undang-Undang Perlindungan Privasi Daring Anak.

Namun pakar privasi masih khawatir tentang seberapa besar perusahaan tersebut harus memiliki akses terhadap data siswa.