Latar Belakang: Beberapa penelitian menyoroti efek sistem kecerdasan buatan (AI) pada

pemberian layanan kesehatan. Alat berbasis AI dapat meningkatkan prognosis, diagnostik,

dan perencanaan perawatan. Diyakini bahwa AI akan menjadi bagian integral dari

layanan kesehatan dalam waktu dekat dan akan dimasukkan ke dalam beberapa aspek

perawatan klinis. Jadi, banyak perusahaan teknologi dan proyek pemerintah telah berinvestasi

dalam memproduksi alat klinis dan medis berbasis AI aplikasi. Pasien dapat menjadi salah

satu penerima manfaat terpenting dan pengguna aplikasi berbasis AI yang persepsi dapat

mempengaruhi meluasnya penggunaan alat berbasis AI. Pasien harus dipastikan bahwa

mereka tidak akan dirugikan oleh perangkat berbasis AI, dan sebaliknya, mereka akan

diuntungkan dengan menggunakan teknologi AI untuk tujuan perawatan kesehatan.

Meskipun AI dapat meningkatkan hasil perawatan kesehatan, kemungkinan dimensi

kekhawatiran dan risiko harus ditangani sebelum diintegrasikan dengan perawatan klinis

rutin.

Metode: Kami mengembangkan model terutama berdasarkan persepsi nilai karena

kekhususan bidang perawatan kesehatan.

Penelitian ini bertujuan untuk menguji manfaat dan risiko yang dirasakan dari perangkat

medis AI dengan dukungan keputusan klinis (CDS) fitur dari perspektif konsumen. Kami

menggunakan survei online untuk mengumpulkan data dari 307 individu di Amerika Serikat.

Hasil: Model yang diusulkan mengidentifikasi sumber motivasi dan tekanan bagi pasien

dalam pengembangan perangkat berbasis AI. Hasilnya menunjukkan bahwa masalah

teknologi, etika (faktor kepercayaan), dan peraturan secara signifikan berkontribusi pada

risiko yang dirasakan dari penggunaan aplikasi AI dalam perawatan kesehatan. Dari tiga

kategori, masalah teknologi (yaitu, fitur kinerja dan komunikasi) ditemukan sebagai prediktor

keyakinan risiko yang paling signifikan.

Kesimpulan: Studi ini lebih menyoroti faktor-faktor yang mempengaruhi risiko yang

dirasakan dan mengusulkan beberapa rekomendasi

tentang cara praktis mengurangi kekhawatiran ini. Temuan penelitian ini memberikan

implikasi untuk penelitian dan praktik di bidang CDS berbasis AI. Badan pengatur, bekerja

sama dengan lembaga kesehatan, harus menetapkan: standar normatif dan pedoman evaluasi

penerapan dan penggunaan AI di bidang kesehatan. Audit rutin dan sistem pemantauan dan

pelaporan yang berkelanjutan dapat digunakan untuk mengevaluasi keamanan, kualitas,

transparansi, dan faktor etika layanan berbasis AI

rtificial Intelligence (AI) umumnya mengacu pada sistem komputerisasi (perangkat keras atau

perangkat lunak) yang mampu melakukan tugas fisik dan fungsi kognitif, memecahkan

berbagai masalah, atau membuat keputusan tanpa instruksi manusia yang eksplisit [1].

Berbagai teknik dan aplikasi berada di bawah payung AI yang luas, seperti algoritma

genetika, jaringan saraf, pembelajaran mesin, dan pengenalan pola [2]. AI dapat

menggantikan tugas dan aktivitas manusia dalam berbagai aplikasi industri, intelektual, dan

sosial dengan dampak yang dihasilkan pada produktivitas dan kinerja. AI, sebagai kecerdasan

non-manusia yang diprogram untuk menyelesaikan tugas-tugas tertentu, dapat mengatasi

beberapa keterbatasan komputasi dan intelektual manusia [3]. Misalnya, AI bisa menjadi

aplikasi komputer yang kompeten untuk memecahkan masalah bisnis yang rumit bagi para

manajer. Perangkat berkemampuan AI menghasilkan rekomendasi yang dipersonalisasi

kepada pelanggan berdasarkan analisis kumpulan data yang sangat besar. Dengan demikian,

diyakini bahwa AI bisa lebih pintar dari manusia dan ahli terbaik di bidang apa pun [2]. Nilai

penggunaan alat AI dirasakan berdasarkan trade-off antara kemungkinan manfaat dan risiko
karena manfaatnya lebih tinggi daripada risikonya, nilai yang lebih besar dari penggunaan

teknologi dirasakan. Teknologi AI, termasuk pembelajaran mesin algoritmik dan

pengambilan keputusan otonom, menciptakan peluang baru untuk inovasi berkelanjutan di

berbagai industri mulai dari keuangan, perawatan kesehatan, manufaktur, ritel, rantai

pasokan, logistik, dan utilitas [4]. AI dapat digunakan dalam bentuk Clinical Decision

Support (CDS) untuk mendukung diagnosis spesifik pasien dan keputusan pengobatan serta

melakukan analisis prediksi risiko berbasis populasi [5]. Mempromosikan layanan berbasis

AI telah menjadi salah satu titik fokus dari banyak strategi perusahaan [6]. Perubahan penting

yang dibuat oleh AI telah mengilhami penelitian terbaru untuk memeriksa dampak dan

konsekuensi dari teknologi dan untuk menyelidiki implikasi kinerja AI. Padahal, tujuan ini

membutuhkan pemahaman mendalam tentang faktor-faktor yang mempengaruhi penerimaan

layanan berbasis AI oleh calon pengguna di berbagai bidang manufaktur dan layanan. Studi

sebelumnya menyoroti pentingnya AI dalam perawatan kesehatan, terutama di bidang

informatika medis [7]. AI mampu memberikan peningkatan perawatan pasien, diagnosis, dan

interpretasi data medis [8]. Sebuah studi menunjukkan bahwa teknologi AI yang digunakan

untuk skrining kanker payudara mengurangi kesalahan deteksi manusia, tetapi beberapa

faktor kepercayaan etis dan sosial yang saling terkait, serta ketergantungan pada AI, belum

dikembangkan [9]. Penggunaan rekomendasi berbasis AI dalam perawatan kesehatan

mungkin berbeda dari sektor lain, terutama karena informasi kesehatan yang sangat sensitif

dan tingkat kerentanan konsumen yang tinggi terhadap kemungkinan kesalahan medis.

Pada April 2018, FDA (Food and Drug Administration) mengizinkan perangkat AI pertama

untuk mendiagnosis retinopati diabetik tanpa bantuan dokter di AS [10]. Semakin banyak

perusahaan layanan kesehatan yang berinvestasi di

pengembangan AI yang tertanam di perangkat kesehatan seluler atau aplikasi kesehatan

untuk meningkatkan keselamatan pasien, meningkatkan kualitas praktik, meningkatkan

manajemen perawatan pasien, dan mengurangi biaya perawatan kesehatan. Namun, penelitian

sebelumnya menunjukkan bahwa tidak semua individu bersedia menerima penggunaan

perangkat AI medis [10]. Implementasi sistem berbasis AI yang berhasil memerlukan

pemeriksaan yang cermat terhadap sikap dan persepsi pengguna tentang AI [5]. Dengan

demikian, berinvestasi dalam teknologi AI tanpa mengenali keyakinan dan kemauan calon

pengguna untuk menerima perangkat AI dapat menyebabkan pemborosan sumber daya

dan/atau bahkan kehilangan pelanggan. Hal ini terutama berlaku di sektor perawatan

kesehatan, di mana keterlibatan pasien dianggap sebagai salah satu penentu kualitas

perawatan kesehatan yang paling penting. Jika individu tidak menganggap berinteraksi

dengan perangkat AI medis sebagai hal yang berguna, mereka mungkin menuntut interaksi

dengan dokter, dan pada gilirannya, perangkat berbasis AI mungkin tetap tidak digunakan.

Oleh karena itu, memahami pendorong keputusan dan hambatan yang mengarah pada

penerimaan atau penolakan penggunaan perangkat berbasis AI dalam pemberian layanan

kesehatan sangat penting bagi penyedia layanan kesehatan dan rumah sakit yang berencana

untuk memperkenalkan dan/atau meningkatkan kehadiran perangkat AI selama pemberian

layanan kesehatan. Selain itu, mengikuti penelitian sebelumnya, profesional kesehatan masih

mengungkapkan keprihatinan mendasar tentang penerapan alat berbasis AI dalam layanan

perawatan [11]. Ada kebutuhan bagi para peneliti untuk lebih efisien memahami tantangan

saat ini terkait dengan teknologi AI dan menganalisis kebutuhan mendesak sistem kesehatan

untuk merancang alat yang mendukung AI yang mampu mengatasinya. Namun, sedikit yang

tahu tentang anteseden keyakinan risiko yang terkait dengan penggunaan perangkat berbasis

AI untuk perawatan dari perspektif masyarakat umum. Hasil studi teoritis dan kualitatif

menunjukkan beberapa faktor yang berkontribusi terhadap keyakinan risiko dan penarikan
individu dari penggunaan perangkat klinis AI [10]. Namun, studi empiris untuk mengkaji sisi

positif dan negatif dari penggunaan AI dalam pengobatan dari perspektif konsumen masih

langka. Selain itu, signifikansi dan keumuman pola pikir berbasis nilai ini, dan hubungannya

yang sebenarnya dengan niat untuk menggunakan AI dalam perawatan kesehatan, belum

diselidiki.

Nilai tersebut diperkirakan berdasarkan trade-off teknologi [12]. Sebagian besar studi terkait

AI menggunakan berbagai model penerimaan (misalnya, TAM, UTAUT) dan tidak

menyertakan persepsi nilai (keyakinan manfaat dan risiko) yang terkait dengan AI, yang

dapat mengarah pada niat untuk menggunakan [3]. Namun, model adopsi berbasis nilai

dipandang sebagai pendekatan yang lebih tepat untuk menjelaskan perilaku konsumen

layanan dengan menunjukkan bahwa sebagian besar konsumen mendukung teknologi baru

berdasarkan persepsi pribadi mereka [13]. Sebuah studi komparatif juga mengusulkan bahwa

model adopsi berbasis nilai paling baik menjelaskan penerimaan konsumen terhadap produk

cerdas berbasis AI dibandingkan dengan teori penerimaan teknologi lain yang banyak

digunakan (yaitu, TAM, TPB, UTAUT) [14]. Dengan demikian, kami mengharapkan

evaluasi risiko-manfaat dari teknologi AI yang berpusat pada manusia

Esmaeilzadeh BMC Informatika Medis dan Pengambilan Keputusan (2020) 20:170 Halaman

2 dari 19

layanan (seperti perawatan kesehatan) secara signifikan mempengaruhi penggunaan alat

klinis AI oleh individu. Saat ini, isu terkait alat berbasis AI di bidang kesehatan masih dalam

ranah penelitian. Namun, secara luas diyakini bahwa sistem ini secara mendasar akan

mengubah praktik medis dalam waktu dekat [15]. Secara historis, sektor medis tidak

mengintegrasikan teknologi secepat industri lainnya. Selain itu, tanpa keterlibatan, kerja

sama, dan dukungan pemangku kepentingan (seperti profesional kesehatan dan pasien) dan
kerangka kerja legislatif dan peraturan yang kuat, integrasi AI ke dalam alur kerja medis saat

ini bisa sangat menantang. Tujuan utama dari penelitian ini adalah untuk menguji bagaimana

calon pengguna (individu) merasakan manfaat, risiko, dan penggunaan perangkat berbasis AI

untuk tujuan perawatan kesehatan mereka. Persepsi manfaat dan keyakinan risiko calon

pengguna dapat memengaruhi adopsi perangkat AI mereka di masa mendatang. Pasien

mungkin tidak memutuskan alat apa yang harus digunakan profesional kesehatan dalam

praktik mereka, tetapi mereka pasti dapat menyoroti kemungkinan kekhawatiran, tantangan,

dan hambatan yang dapat menahan mereka untuk mendukung dan menggunakan alat yang

diterapkan dan dipromosikan oleh dokter.

Ketidakpercayaan yang dirasakan dalam mekanisme AI Kepercayaan antara sistem publik

dan layanan kesehatan sangat penting untuk pemberian layanan kesehatan yang efektif [36].

Mendapatkan kepercayaan dari masyarakat umum dalam penggunaan AI dalam perawatan

kesehatan dianggap sebagai tantangan penting bagi keberhasilan implementasi AI dalam

praktik medis [37]. Ketidakpercayaan yang dirasakan dalam mekanisme AI mengacu pada

persepsi pengguna bahwa model prediksi dan diagnostik AI tidak dapat dipercaya [19].

Sebuah studi melaporkan bahwa, secara umum, individu cenderung menunjukkan kurangnya

kepercayaan pada fitur sistem AI [38]. Misalnya, orang mungkin tidak mempercayai

kekuatan prediksi dan kemampuan diagnostik AI untuk tujuan pengobatan. Lee, Kim [39]

menunjukkan bahwa otonomi sistem AI mempengaruhi persepsi pengguna tentang

kepercayaan. Kepercayaan pada alat berbasis AI (seperti perangkat medis AI) ditemukan

sebagai faktor signifikan yang mempengaruhi keputusan adopsi [40]. Ketika pasien tidak

dapat memahami cara kerja bagian dalam perangkat AI, mereka mungkin menunjukkan

kepercayaan yang lebih rendah pada fungsinya dan bagaimana mereka menghasilkan solusi

perawatan dan
Esmaeilzadeh BMC Informatika Medis dan Pengambilan Keputusan (2020) 20:170 Halaman

5 dari 19

rekomendasi. Sifat model AI (seperti pembelajaran mendalam) dapat meningkatkan

kurangnya transparansi terkait dengan sistem AI dan mengancam kepercayaan pasien, yang

pada gilirannya, menghasilkan kepercayaan risiko yang lebih besar [37]. Oleh karena itu,

kami berhipotesis: H4: Ketidakpercayaan yang dirasakan dalam mekanisme AI secara positif

memengaruhi risiko yang dirasakan.

Kemajuan teknologi yang mengganggu pasti mengubah masyarakat, komunikasi, dan

kehidupan kerja. Salah satu perubahan mendasar yang dapat memberikan efek signifikan

pada layanan kesehatan adalah penerapan perangkat AI secara luas. Teknologi AI merupakan

elemen integral dari banyak model bisnis organisasi, dan merupakan komponen strategis

penting dalam rencana untuk banyak sektor bisnis, seperti institusi perawatan kesehatan.

Menerapkan sistem informasi canggih (seperti AI) dalam perawatan kesehatan memerlukan

pemahaman mendalam tentang faktor-faktor yang terkait dengan penerimaan teknologi di

antara kelompok pemangku kepentingan. Salah satu pemangku kepentingan terpenting dari

perangkat dengan CDS berbasis AI adalah pasien. Karena karakteristik khusus dari sektor

kesehatan, penerapan perangkat AI harus dilakukan dengan beberapa pertimbangan yang

diperlukan. Dari perspektif publik, menggunakan perangkat AI adalah untuk mendukung

mereka. Model kami menunjukkan bahwa selama proses pengambilan keputusan, individu

melalui tahap penilaian, termasuk mengevaluasi nilai CDS berbasis AI (manfaat versus

risiko). Jika masalah teknologi, etika, peraturan iklan tidak dianalisis, dirasionalisasikan, dan

diselesaikan dengan tepat, orang mungkin tidak hanya menggunakannya tetapi juga melihat
perangkat AI sebagai ancaman bagi perawatan kesehatan mereka. Pengembang perangkat AI

perlu menyoroti potensi manfaat dari teknologi AI dan mengatasi berbagai dimensi

kekhawatiran untuk membenarkan pembelian dan penggunaan alat AI kepada publik. Badan

pengatur layanan kesehatan perlu secara jelas mendefinisikan hak dan tanggung jawab

profesional layanan kesehatan, pengembang, pemrogram, dan pengguna akhir untuk

menunjukkan pendekatan yang dapat diterima dalam penggunaan perangkat AI.