Tahun lalu, seperempat dari seluruh klaim asuransi kesehatan ditolak di California — sebuah fakta yang bergema di seluruh negeri, memicu kemarahan masyarakat terhadap perusahaan layanan kesehatan dan keputusan tersebut menimbulkan tuduhan bahwa masyarakat kurang berempati.
Tapi bulan ini a undang-undang negara bagian yang baru mengambil perubahan terbaru dalam perdebatan ini, yang memastikan bahwa perspektif manusia tidak dapat dihilangkan secara harfiah dari keputusan-keputusan tersebut, dengan melarang penolakan terhadap liputan yang hanya didasarkan pada algoritma kecerdasan buatan.
RUU Senat 1120 – dikenal sebagai Undang-Undang Keputusan Dokter – yang ditandatangani oleh Gubernur Gavin Newsom September lalu muncul di tengah meningkatnya rasa frustrasi terhadap sistem asuransi kesehatan. Pembunuhan besar-besaran bulan lalu terhadap CEO UnitedHealthcare Brian Thompson di New York memicu gelombang reaksi yang sering kali mencerminkan kemarahan publik.
Sekitar 26 persen klaim asuransi ditolak pada tahun 2024, menurut California Nurses Association, salah satu dari banyak faktor yang menginspirasi penulis utama undang-undang tersebut, Senator negara bagian Josh Becker, seorang Demokrat di Menlo Park.
“Pada tahun 2021 saja (secara nasional), data menunjukkan perusahaan asuransi kesehatan menolak lebih dari 49 juta klaim,” kata Becker mengutip data Kaiser Family Foundation. “Tetapi pelanggan yang menghubungi kurang dari 0,2% dari mereka.”
Pada bulan November 2023, gugatan terhadap UnitedHealthcare berfokus pada kekhawatiran tentang penggunaan kecerdasan buatan yang tidak tepat dalam pengambilan keputusan asuransi kesehatan, yang mendorong perusahaan untuk menolak klaim tersebut.
Meskipun SB 1120 tidak secara langsung melarang penggunaan teknologi kecerdasan buatan, namun hal ini menjadikan penilaian manusia sebagai hal yang penting dalam pengambilan keputusan. Berdasarkan undang-undang baru, alat AI tidak dapat digunakan oleh dokter untuk menolak, menunda, atau mengubah layanan medis yang dianggap perlu secara medis.
“Algoritme tersebut tidak dapat sepenuhnya memahami riwayat medis atau kebutuhan unik pasien, dan kesalahan dalam algoritma dapat menimbulkan konsekuensi yang sangat buruk,” kata Becker. “Undang-undang ini akan menempatkan kendali manusia sebagai pusat keputusan layanan kesehatan dan memastikan bahwa warga California memiliki akses terhadap layanan berkualitas yang layak mereka dapatkan.”
Becker menekankan keseimbangan antara menerima inovasi dan perawatan pasien.
“Kecerdasan buatan memiliki potensi luar biasa untuk meningkatkan layanan kesehatan, namun kecerdasan buatan tidak akan pernah menggantikan keahlian dan penilaian dokter,” katanya.
Departemen Perawatan Kesehatan Terkelola California mengawasi penegakan hukum, mengaudit tingkat penolakan, dan memastikan transparansi. Undang-undang ini juga menetapkan tenggat waktu yang ketat untuk otorisasi: kasus-kasus standar memerlukan keputusan dalam waktu lima hari kerja, kasus-kasus mendesak dalam waktu 72 jam, dan peninjauan retrospektif dalam waktu 30 hari.
Berdasarkan SB 1120, regulator negara bagian memiliki wewenang untuk mendenda dan mendenda perusahaan asuransi atas pelanggaran seperti tenggat waktu yang terlewat atau penggunaan AI yang tidak tepat.
Erin Mellon, juru bicara California Medical Association, yang mensponsori RUU tersebut, menekankan pentingnya melindungi hubungan dokter-pasien.
“Kecerdasan buatan berpotensi meningkatkan perawatan pasien, namun tidak boleh merugikan atau menggantikan hubungan tersebut,” kata Mellon. “Laporan terbaru menyoroti kasus-kasus di mana alat otomatis secara salah menolak akses pasien terhadap layanan kesehatan. Dokter umumnya mendukung AI dalam layanan kesehatan jika AI dapat meningkatkan layanan dan dokter serta menghormati kebutuhan pasien.
Paula Wolfson, manajer layanan senior di Avenidas Care Partners, organisasi nirlaba yang berbasis di Peninsula, menjelaskan tantangan yang dihadapi kliennya ketika memilih tidak ikut asuransi.
“Ini menyebabkan banyak stres,” kata Wolfson. “Saya mendengar dari keluarga-keluarga yang berada dalam situasi berisiko tinggi karena mereka tidak bisa mendapatkan layanan kesehatan yang mereka butuhkan.”
Wolfson memuji pendekatan proaktif California dalam mengatur AI dalam layanan kesehatan.
“Ini memberi saya harapan bahwa para politisi menggunakan akal sehat dan kepekaan terhadap keputusan-keputusan ini,” katanya.
Di tengah meningkatnya kekhawatiran mengenai praktik asuransi kesehatan, Becker mencatat bahwa pendekatan California mendapatkan perhatian nasional.
“Sembilan belas negara bagian saat ini sedang mempertimbangkan undang-undang serupa,” kata Becker. “Kami bahkan telah didekati oleh beberapa badan kongres untuk meninjau undang-undang federal. Prioritas kami adalah membantu warga California, namun membangun model nasional juga sama pentingnya.
