Artificial Intelligence (AI) dan Machine Learning (ML) membawa perawatan kesehatan ke perbatasan baru dengan potensi besar untuk meningkatkan hasil klinis, mengelola sumber daya, dan mendukung pengembangan terapeutik. Mereka juga menimbulkan teka-teki etika, hukum dan operasional yang pada gilirannya dapat meningkatkan risiko.
Di mana posisi AI dan ML saat ini? Pergi, berhenti, pergi.
Tahun 2023 telah membawa aktivitas besar yang ditandai dengan kemajuan luar biasa dan memperhitungkan implikasinya, menyebabkan upaya pengendalian ekspansi yang tidak terkendali. Banyak pemimpin industri menyerukan jeda dalam kemajuan yang berkelanjutan setidaknya selama enam bulan setelah melihat pertumbuhan pesat dalam teknologi AI, hanya untuk melihat orang lain terus memanfaatkan peluang yang kaya akan target. Dorongan dan tarikan ini mencerminkan kebutuhan untuk berhati-hati dalam investasi dan penggunaan AI/ML.
Kegiatan di tingkat pemerintahan juga berkembang pesat. Pada akhir tahun 2022, Gedung Putih merilis “Cetak Biru untuk AI Bill of Rights” yang memandu penggunaan, desain, dan penerapan sistem otomatis, yang memprioritaskan hak-hak sipil dan nilai-nilai demokrasi. Pada tanggal 3 April 2023, FDA merilis draf panduan untuk mengembangkan kerangka peraturan lembaga tersebut untuk fungsionalitas perangkat lunak yang mendukung AI/ML. Panduan ini mengusulkan pendekatan untuk memastikan keamanan dan efektivitas AI/ML yang menggunakan mekanisme adaptif untuk memasukkan data baru dan yang ditingkatkan secara waktu nyata. Mengingat kurangnya undang-undang federal yang komprehensif tentang AI, negara bagian telah aktif dalam mengembangkan undang-undang privasi. Selain itu, untuk menyelaraskan standar AI yang berpusat pada pasien dan terkait kesehatan, Koalisi AI Kesehatan merilis “Cetak Biru Panduan dan Jaminan Implementasi AI Tepercaya untuk Perawatan Kesehatan” pada awal April.
Perkembangan yang dipercepat ini telah menghasilkan seruan untuk tindakan di tingkat internasional. Italia untuk sementara melarang ChatGPT pada bulan April dan memulai penyelidikan terhadap aplikasi yang diduga melanggar GDPR. Spanyol, Kanada, dan Prancis juga telah menyampaikan kekhawatiran serupa dan meluncurkan penyelidikan. Anggota parlemen UE telah menyerukan pertemuan puncak internasional dan peraturan AI baru, termasuk Undang-Undang AI yang diusulkan. Akibatnya, penerapan praktik pengawasan dan akuntabilitas teknologi AI/ML semakin menjadi prioritas peraturan.
Area utama pertumbuhan AI
- Personalisasi perawatan: AI memiliki potensi untuk mendeteksi penyakit dan memandu pengobatan dengan menggabungkan penelitian saat ini dan sumber daya perawatan medis secara real time. Unsur prediktif teknologi AI dapat memproyeksikan hasil pengobatan, yang dapat meningkatkan kualitas perawatan dan meminimalkan biaya. Contoh aplikasi khusus pasien meliputi: analitik prediktif untuk menentukan hasil pasien dengan akurasi tinggi, pencocokan penyedia yang dipersonalisasi berdasarkan variasi model dalam hasil penyedia dan diagnosis khusus pasien, dan intervensi klinis yang tepat waktu melalui pemantauan yang dapat dikenakan oleh alat pembuat keputusan AI. Kemampuan AI untuk mendeteksi pola sangat membantu dalam pencitraan medis karena pengenalan pola mendukung diagnosis dan prognosis penyakit. AI non-klinis dapat membantu merampingkan alur kerja, memantau ketersediaan tempat tidur rumah sakit dan tingkat rawat inap, serta mengidentifikasi kesenjangan ekuitas kesehatan.
- Deteksi dan diagnosis dini: Algoritme AI dapat secara akurat mendeteksi dan mendiagnosis penyakit serius seperti ALS, gagal ginjal, dan Alzheimer bertahun-tahun sebelum diagnosis konvensional dapat dilakukan. Kemampuan deteksi AI juga telah diterapkan di bidang kesehatan umum, termasuk untuk memantau pola tidur, pola makan, dan kesehatan mental, yang dapat mengarah pada deteksi dini penyakit terkait, sehingga meningkatkan efektivitas pengobatan. Algoritme AI telah terbukti memprediksi diabetes dengan akurasi >90%, dan mencapai akurasi klinis yang sebanding dengan rata-rata dokter saat mendiagnosis kasus uji tertulis.
- Perkembangan dan penemuan terapeutik: AI dapat menyaring dan menganalisis sejumlah besar informasi farmasi digital untuk mengatasi masalah klinis yang kompleks. Akibatnya, telah terjadi peningkatan yang signifikan dalam kemitraan antara perusahaan farmasi tradisional dan perusahaan yang digerakkan oleh AI. AI sangat relevan dalam penemuan obat, skrining, dan desain molekuler; desain uji klinis; dan manufaktur farmasi.
Pertimbangan hukum dan industri
Meskipun tujuan teknologi AI/ML adalah untuk menawarkan perawatan yang “lebih cerdas”, hingga saat ini, hubungan pasien-penyedia tetap penting dalam memastikan pasien menerima layanan kesehatan yang tepat. Pertumbuhan AI dalam ilmu kesehatan dan kehidupan juga membawa pertimbangan hukum dan peraturan baru, khususnya di bidang:
- FDA dan SaMD: Penggunaan atau bantuan algoritme AI dalam pengambilan keputusan klinis dapat membawa teknologi tersebut ke dalam lingkup peraturan FDA jika memenuhi definisi “perangkat medis”. FDA telah mengembangkan kerangka kerja untuk mengatur perangkat medis yang mendukung AI/ML dan teknologi berbasis AI/ML yang disebut “Perangkat Lunak sebagai Alat Kesehatan”. Seiring kemajuan teknologi dan tumbuhnya minat publik, FDA tetap aktif mengeluarkan panduan tentang topik ini.
- Etika dan penelitian: Karena aplikasi AI meluas ke cakupan layanan yang secara tradisional dilakukan oleh praktisi berlisensi, pertanyaan tentang praktik medis tanpa izin dapat diajukan. Penggunaan data pasien dalam mengembangkan dan menguji teknologi AI juga mungkin memerlukan persetujuan tertulis dan memicu pengawasan IRB. Kebutuhan akan pengawasan manusia, atau ketiadaannya, kemungkinan akan tetap menjadi perhatian karena AI berkembang biak, terutama untuk memantau kemampuan AI untuk menghasilkan hasil yang salah dan menyebabkan perawatan yang tidak perlu atau tidak tepat. Selain itu, aplikasi AI yang berbahaya dan tidak diinginkan, seperti biohacking, bioweapon, dan persenjataan informasi kesehatan, mengamanatkan perlindungan yang cermat dan kewaspadaan proaktif oleh semua orang untuk memastikan pengawasan yang tepat.
- Kekayaan intelektual dan aset data: Inovator perawatan kesehatan di ruang AI/ML menghadapi iklim IP yang berbeda, karena sistem AI/ML mungkin tidak menerima perlindungan yang sama seperti keluaran tradisional. Hak cipta dan paten, misalnya, tidak dapat dilampirkan pada keluaran yang bukan merupakan pencipta manusia atau karya pengembang. Hak atas aset data, seperti data mentah dan data turunan yang mendasari algoritme AI, juga memerlukan pemantauan.
- Privasi dan hak data: Undang-undang dan peraturan privasi perawatan kesehatan mungkin terlibat di tingkat federal dan negara bagian. Informasi pasien mungkin tunduk pada perlindungan di bawah HIPAA dan undang-undang negara bagian lainnya, dan mungkin perlu dihapus identitasnya sebelum data tersebut dapat dibagikan dan digunakan untuk mengembangkan produk AI/ML. Selanjutnya, undang-undang privasi konsumen dan tuntutan hukum pribadi terkait dengan hak data memberikan dasar bagi individu untuk memantau, dan berpotensi menolak, penggunaan data pribadi mereka dalam mengembangkan AI.
- Pengembalian dana dan perlindungan: Adopsi dan adopsi AI oleh penyedia layanan kesehatan dan entitas sangat bergantung pada insentif keuangan, termasuk tarif penggantian berdasarkan iterasi AI baru dari suatu inovasi dan apakah layanan AI akan ditanggung oleh pembayar. Saat industri bergerak menuju perawatan berbasis nilai, AI dapat menawarkan alat dan peluang tambahan.
- Potensi bias dan ketidaktepatan: Terlepas dari terobosan dan potensi revolusioner teknologi AI/ML, algoritme teknologi AI dapat mendeteksi pola menggunakan data yang dianotasi manusia, yang dapat (1) berdasarkan kumpulan data yang sudah usang, homogen, atau tidak lengkap dan (2) rentan terhadap reproduksi dan retensi rasial, berdasarkan jenis kelamin, dan juga bias berdasarkan usia. Akibatnya, terdapat peningkatan fokus pada diversifikasi dan perluasan kumpulan data medis untuk mengidentifikasi dan mengurangi potensi bias ini.
Momen penting
Dikotomi antara dorongan maju dalam pengembangan teknologi AI ditambah dengan ajakan untuk menekan jeda telah membawa pertumbuhan AI/ML ke momen yang sangat penting. Karena industri dan pemerintah mempertimbangkan potensi dan risiko AI yang sangat besar, penting untuk melacak perkembangan secara dekat untuk memastikan inovasi diterapkan dengan cara yang mempercepat manfaat sosial sambil meminimalkan kerugian yang tidak diinginkan.
Terlepas dari ketidakpastian dan risiko, menerapkan AI dengan kerangka kerja yang tepat dan infrastruktur kepatuhan menawarkan peluang menarik untuk mengubah layanan kesehatan menjadi perbatasan baru dengan hasil pasien yang lebih baik dan peningkatan efisiensi.
Foto: ipopba, Getty Images
