Oleh HALLELUJAH HADERO
Munculnya alat kecerdasan buatan generatif yang memungkinkan orang untuk secara efisien menghasilkan ulasan online yang baru dan terperinci tanpa perlu melakukan apa pun telah membawa pedagang, penyedia layanan, dan konsumen ke dalam wilayah yang belum dipetakan, kata kelompok pengawas dan peneliti.
Ulasan palsu telah lama mengganggu banyak situs web konsumen populer, misalnya Amazon dan Yelp. Mereka biasanya diperdagangkan di grup media sosial swasta antara broker ulasan palsu dan bisnis yang bersedia membayar. Terkadang ulasan ini dimulai oleh bisnis yang menawarkan insentif seperti kartu hadiah kepada pelanggan untuk mendapatkan umpan balik positif.
Namun, alat pembuat teks infus buatan dipopulerkan oleh OpenAI ObrolanGPTmemungkinkan penipu menghasilkan ulasan lebih cepat dan dalam volume lebih besar, menurut pakar industri teknologi.
Praktek yang menipu, yaitu Ilegal di ASdilakukan sepanjang tahun, namun menjadi permasalahan besar bagi konsumen musim belanja liburanketika banyak orang mengandalkan ulasan untuk membantu mereka membeli hadiah.
Di mana komentar yang dihasilkan AI ditampilkan?
Ulasan palsu ditemukan di berbagai industri, mulai dari e-commerce, penginapan dan restoran hingga layanan seperti perbaikan rumah. perawatan medis dan pelajaran piano.
Transparency International, sebuah perusahaan teknologi dan kelompok pengawas yang menggunakan perangkat lunak untuk mendeteksi ulasan palsu, mengatakan ulasan yang dihasilkan AI mulai muncul dalam jumlah besar pada pertengahan tahun 2023 dan terus meningkat sejak saat itu.
Untuk laporan yang dirilis bulan ini, The Transparency Company menganalisis 73 juta komentar di tiga sektor: layanan rumah tangga, hukum, dan medis. Sekitar 14 persen ulasan kemungkinan besar palsu, dan perusahaan mengatakan mereka memiliki “tingkat keyakinan yang tinggi” bahwa 2,3 juta ulasan dihasilkan sebagian atau seluruhnya oleh AI.
“Ini adalah alat yang sangat bagus bagi para penipu yang hanya mencari-cari,” kata Maury Blackman, seorang investor dan penasihat perusahaan rintisan teknologi yang mengulas The Transparency Company dan dijadwalkan untuk memimpin organisasi tersebut mulai 1 Januari.
Pada bulan Agustus, perusahaan perangkat lunak DoubleVerify mengatakan mereka melihat “pertumbuhan signifikan” pada aplikasi ponsel dan TV pintar dengan ulasan yang dihasilkan oleh AI generatif. Komentar tersebut sering digunakan untuk mengelabui pelanggan agar memasang aplikasi yang dapat membajak perangkat atau terus-menerus menampilkan iklan, kata perusahaan itu.
Bulan berikutnya, Komisi Perdagangan Federal menggugat perusahaan di balik alat penulisan AI dan pembuat konten bernama Rytr, dengan tuduhan menawarkan layanan yang mencemari pasar dengan ulasan palsu.
Dilarang tahun ini oleh FTC penjualan atau pembelian Beberapa pelanggan Rytr telah menggunakan alat ini untuk menghasilkan ratusan dan mungkin ribuan ulasan untuk perusahaan perbaikan pintu garasi, penjual tas tangan desainer “replika”, dan bisnis lainnya.
Bisa juga di situs online populer
Max Spero, CEO perusahaan pendeteksi AI Pangram Labs, mengatakan perangkat lunak yang digunakan perusahaannya hampir pasti mendeteksi bahwa beberapa ulasan yang dibuat oleh AI yang diposting di Amazon akan ditempatkan di bagian atas hasil ulasan karena sangat detail dan terlihat bagus. dipikirkan.
Namun sulit membedakan mana yang palsu atau tidak. Amazon mengatakan pihak luar “tidak memiliki akses terhadap sinyal data yang menunjukkan pola penyalahgunaan” karena sinyal tersebut hilang.
Pangram Labs mengidentifikasi beberapa situs online terkenal, yang ditolak Spero untuk disebutkan namanya karena perjanjian kerahasiaan. Dia mengatakan dia mengevaluasi Amazon dan Yelp secara independen.
Banyak ulasan Yelp yang dihasilkan oleh AI tampaknya diposting oleh individu yang mencoba memposting ulasan yang cukup untuk mendapatkan lencana “Elite”, yang dimaksudkan untuk memberi sinyal kepada pengguna bahwa mereka harus memercayai konten tersebut, kata Spero.
Lencana memberi Anda akses ke acara eksklusif dengan pemilik bisnis lokal. Penipu juga ingin profil Yelp terlihat lebih realistis, kata Kay Dean, mantan penyelidik kriminal federal yang menjalankan kelompok pengawas bernama Fake Review Watch.
Yang pasti, hanya karena ulasan dibuat oleh AI bukan berarti ulasan tersebut palsu. Beberapa konsumen mungkin bereksperimen dengan alat AI untuk membuat konten yang mencerminkan perasaan mereka yang sebenarnya. Beberapa penutur bahasa Inggris non-pribumi mengatakan bahwa mereka beralih ke AI untuk memastikan mereka menggunakan bahasa yang benar dalam komentar mereka.
“Hal ini dapat membantu dalam memberikan ulasan (dan) jika berasal dari niat baik, hal ini akan membuatnya lebih informatif,” kata Sherry He, profesor pemasaran di Michigan State University yang telah mempelajari ulasan palsu. Dia mengatakan bahwa alih-alih mencegah pengguna sah menggunakan alat AI, platform teknologi harus fokus pada perilaku pelaku kejahatan, yang telah dilakukan oleh platform yang sudah mapan.
Apa yang dilakukan perusahaan?
Perusahaan-perusahaan terkemuka sedang mengembangkan kebijakan tentang bagaimana konten yang dihasilkan AI cocok dengan sistem mereka untuk menghapus komentar palsu atau kasar. Beberapa sudah menggunakan algoritme dan tim investigasi untuk menemukan dan menghapus ulasan palsu, tetapi memberikan fleksibilitas kepada pengguna untuk menggunakan AI.
Misalnya, perwakilan Amazon dan Trustpilot mengatakan bahwa mereka mengizinkan pelanggan memposting ulasan dengan bantuan kecerdasan buatan, yang mencerminkan pengalaman nyata mereka. Yelp telah mengambil pendekatan yang hati-hati, dan pedomannya mengharuskan pengulas untuk menulis salinannya sendiri.
“Dengan meningkatnya penggunaan alat kecerdasan buatan oleh konsumen baru-baru ini, Yelp telah berinvestasi secara signifikan dalam cara mengidentifikasi dan memitigasi konten tersebut dengan lebih baik di platform kami,” kata perusahaan itu dalam sebuah pernyataan.
Amazon, Trustpilot, situs ulasan pekerjaan Glassdoor, dan Koalisi Ulasan Tepercaya, yang mencakup Tripadvisor, Expedia, dan situs perjalanan. Pemesanan.com Diluncurkan tahun lalu, teknologi ini menawarkan “peluang untuk melawan orang-orang yang berusaha menggunakan komentar untuk menyesatkan orang lain”, meskipun pembohong dapat menggunakan kecerdasan buatan secara ilegal.
“Dengan berbagi praktik terbaik dan meningkatkan standar, termasuk mengembangkan sistem deteksi AI yang canggih, kami dapat melindungi konsumen dan menjaga integritas ulasan online,” kata kelompok tersebut.
aturan FTC Larangan peninjauan palsu, yang mulai berlaku pada bulan Oktober, memungkinkan badan tersebut untuk mendenda perusahaan dan individu yang terlibat dalam praktik tersebut. Perusahaan teknologi yang menampung komentar semacam itu dilindungi dari tuntutan karena mereka tidak bertanggung jawab secara hukum berdasarkan hukum AS atas konten yang diposting oleh pihak luar di platform mereka.
Perusahaan teknologi termasuk Amazon, Yelp, dan Google telah menggugat broker ulasan palsu yang mereka tuduh menjual ulasan palsu di situs mereka. Perusahaan-perusahaan tersebut mengatakan bahwa teknologi mereka telah memblokir atau menghapus sebagian besar ulasan dan akun yang meragukan. Namun, beberapa ahli mengatakan mereka bisa berbuat lebih banyak.
“Apa yang mereka lakukan sejauh ini tidaklah cukup,” kata Dekan Fake Review Watch. “Jika perusahaan-perusahaan teknologi ini sangat berkomitmen untuk menghilangkan penipuan ulasan di platform mereka, mengapa saya, seseorang yang bekerja tanpa otomatisasi, dapat menemukan ratusan atau bahkan ribuan ulasan palsu pada hari tertentu?”
Identifikasi ulasan palsu yang dihasilkan oleh AI
Konsumen bisa mencobanya temukan ulasan palsu dengan menonton beberapa kemungkinan tanda-tanda peringatanmenurut peneliti. Komentar yang terlalu antusias atau negatif adalah tanda bahaya. Jargon yang mengulangi nama lengkap produk atau nomor model adalah potensi hadiah lainnya.
Mengenai AI, penelitian yang dilakukan oleh Balazs Kovacs, seorang profesor perilaku organisasi di Yale, menemukan bahwa orang tidak dapat membedakan antara komentar yang dibuat oleh AI dan komentar yang ditulis oleh manusia. Beberapa pendeteksi AI juga bisa tertipu dengan teks yang lebih pendek, yang umum ditemukan dalam ulasan online, kata studi tersebut.
Namun, ada beberapa “AI Says” yang harus diingat oleh toko online dan penyedia layanan. Panagram Labs mengatakan ulasan yang didukung AI cenderung lebih panjang, lebih terstruktur, dan berisi “deskriptor longgar” seperti frasa umum dan atribusi. Rekaman tersebut juga berisi klise seperti “hal pertama yang mengejutkan saya” dan “pengubah permainan”.
Awalnya diterbitkan:
