Seorang profesor Stanford yang menjadi saksi ahli dalam gugatan federal mengenai penipuan AI mengajukan pernyataan tertulis yang berisi informasi palsu yang mungkin dihasilkan oleh chatbot AI.
Pernyataan yang diajukan oleh penggugat dalam kasus tersebut pada 16 November menuduh bahwa Jeff Hancock, seorang profesor komunikasi dan direktur pendiri Lab Media Sosial Stanford, “mengutip penelitian yang tidak ada.” “Mungkin penelitian ini adalah ‘halusinasi’ yang diciptakan oleh model bahasa AI besar seperti ChatGPT.”
Hancock dan Stanford tidak segera menanggapi permintaan komentar.
Gugatan tersebut diajukan ke pengadilan distrik Minnesota oleh seorang anggota parlemen negara bagian dan seorang YouTuber satir yang meminta perintah yang menyatakan bahwa undang-undang negara bagian yang mengkriminalisasi foto, video, dan suara terkait pemilu yang dibuat oleh AI dan bersifat “palsu” tidak konstitusional.
Menurut pengajuan pengadilan pada hari Sabtu, Hancock dibawa sebagai saksi ahli oleh Jaksa Agung Minnesota, terdakwa dalam kasus tersebut.
Pengajuan tersebut, yang diajukan oleh seorang anggota parlemen dan YouTuber, mempertanyakan kredibilitas Hancock sebagai saksi ahli dan berpendapat bahwa laporannya harus dibuang karena mungkin berisi lebih banyak pemalsuan AI yang belum ditemukan.
Dalam pengajuan setebal 12 halaman, Hancock mengatakan pihaknya akan mengkaji dampak media sosial dan teknologi kecerdasan buatan terhadap misinformasi dan kepercayaan.
Laporan Hancock mencantumkan “kutipannya”, menurut catatan pengadilan. Salah satu tautan tersebut – ke penelitian yang dilakukan oleh penulis Huang, Zhang dan Wang – menarik perhatian pengacara Perwakilan negara bagian Mary Franson dan YouTuber Christopher Coles, yang juga melobi Jaksa Agung California Rob Bontani untuk undang-undang yang mengizinkan tuntutan ganti rugi. klaim pada. kecurangan pemilu.
Hancock mengutip penelitian yang diterbitkan dalam Journal of Information Technology & Politics yang mendukung gagasan yang dia berikan kepada pengadilan tentang kompleksitas teknologi palsu. Publikasi ini asli. Namun penelitian yang dipresentasikan oleh pengacara Franson dan Kohls adalah “fiktif”.
Volume majalah dan halaman-halaman artikel yang dikutip oleh Hancock tidak membahas deepfake, melainkan meliput debat online calon presiden tentang perubahan iklim dan dampak postingan media sosial terhadap hasil pemilu, kata pengajuan tersebut.
Kutipan seperti itu, judul yang logis, dan publikasi dalam jurnal sebenarnya “adalah tipikal ‘halusinasi’ kecerdasan buatan yang telah diperingatkan oleh para peneliti akademis kepada rekan-rekan mereka,” kata arsip tersebut.
Hancock mengumumkan bahwa dia akan didakwa melakukan sumpah palsu setelah dia “mengidentifikasi materi akademis, ilmiah, dan materi lain yang telah dia baca” dalam kesaksian ahlinya.
Pengajuan tersebut meningkatkan kemungkinan bahwa AI yang diklaim oleh tim hukum para terdakwa adalah tipuan, namun menambahkan, “Hancock akan tetap mengajukan pernyataan palsu yang menyatakan bahwa dia telah meninjau materi yang dipermasalahkan.”
Tahun lalu, pengacara Steven A. Schwartz dan Peter LoDuca mengajukan gugatan cedera pribadi di pengadilan federal New York yang mencakup kasus pengadilan palsu yang dibuat oleh ChatGPT untuk mendukung argumen mereka masing-masing.
“Saya tidak menyadari ChatGPT dapat memperbaiki keadaan” Schwartz memberi tahu hakim.
