Sebuah studi terbaru yang diterbitkan dalam International Journal of Human-Computer Interaction menemukan bahwa kecerdasan buatan (AI) harus diatasi agar dapat dipercaya, aman, dapat dipercaya, dan sesuai nilai. kemanusiaan.

Menurut pdscustom.com Ozlem Garibay, asisten profesor di Departemen Teknik Industri dan Sistem Manajemen di University of Central Florida, adalah peneliti utama dalam penelitian ini. Garibay dan tim internasionalnya yang terdiri dari 26 ahli dari berbagai latar belakang teknologi AI melakukan penelitian selama 20 bulan.

Integrasi kecerdasan buatan ke dalam banyak aspek kehidupan kita telah menciptakan banyak tantangan untuk dipelajari. Garibay menjelaskan bahwa integrasi AI yang akan datang secara luas dapat berdampak signifikan pada kehidupan manusia dengan cara yang belum sepenuhnya dipahami.

Studi ini berupaya mengidentifikasi tantangan yang harus diatasi untuk menjadikan AI aman, dapat dipercaya, dapat dipercaya, dan sesuai dengan nilai-nilai kemanusiaan.

Enam tantangan yang diidentifikasi oleh Garibay dan tim peneliti adalah:

AI harus dapat menemukan peluang implementasi yang bermanfaat bagi kesejahteraan manusia. AI juga harus mempertimbangkan untuk mendukung kesejahteraan pengguna saat berinteraksi dengan AI.

AI yang bertanggung jawab mengacu pada konsep memprioritaskan kesejahteraan manusia dan masyarakat di sepanjang siklus hidup AI. Hal ini memungkinkan kami memanfaatkan potensi manfaat AI dengan cara yang konsisten dengan nilai dan prioritas manusia, sambil meminimalkan risiko konsekuensi yang tidak diinginkan atau pelanggaran etika.

Pengumpulan, penggunaan, dan pendistribusian data dari sistem AI harus dipertimbangkan dengan hati-hati untuk melindungi privasi individu dan mencegah penggunaan berbahaya oleh individu atau kelompok.

Prinsip desain yang berpusat pada manusia untuk sistem AI memerlukan penggunaan kerangka kerja yang menginformasikan praktisi. Framework tersebut membedakan antara AI berisiko rendah, AI yang tidak memerlukan tindakan khusus, AI berisiko sangat tinggi, dan AI yang sebaiknya tidak digunakan.

Kerangka tata kelola yang mempertimbangkan seluruh siklus hidup AI, mulai dari konsep hingga pengembangan hingga penerapan, sangat dibutuhkan.

Untuk mempromosikan hubungan yang etis dan adil antara manusia dan sistem AI, interaksi harus didasarkan pada prinsip dasar: menghargai kemampuan kognitif manusia. Secara khusus, manusia harus mempertahankan kontrol dan tanggung jawab penuh atas tindakan dan hasil dari sistem AI.

Studi ini menyerukan adopsi pendekatan yang berpusat pada manusia yang mencakup desain yang bertanggung jawab, privasi, kepatuhan terhadap prinsip desain yang berpusat pada manusia, tata kelola dan pengawasan yang tepat, dan interaksi yang menghormati kemampuan kognitif manusia.

Tantangan-tantangan ini membutuhkan penciptaan teknologi AI yang berpusat pada manusia yang mengutamakan etika, keadilan, dan peningkatan kesejahteraan manusia.

Pakar dalam penelitian ini terdiri dari 26 pakar internasional dengan pengalaman yang kaya di bidang akademisi, industri, dan pemerintahan, termasuk anggota National Academy of Engineering dan peneliti dari Amerika Utara, Eropa, dan Asia. Grup ini juga memiliki latar belakang pendidikan mulai dari ilmu komputer dan teknik hingga psikologi dan kedokteran.

Garibay mengatakan tantangan ini merupakan seruan untuk bertindak oleh komunitas ilmiah untuk mengembangkan dan mengimplementasikan teknologi AI yang mengutamakan dan menguntungkan umat manusia. Hasil penelitian ini akan dipaparkan dalam sebuah buku bab berjudul Interaksi Manusia-Komputer: Landasan, Metode, Teknik, dan Aplikasi.

Sebagai kesimpulan, penelitian ini menyoroti kebutuhan akan teknologi AI yang berpusat pada manusia yang mengutamakan etika, keadilan, dan peningkatan kesejahteraan manusia.

Enam tantangan yang diidentifikasi dalam makalah ini sangat penting untuk memastikan bahwa AI aman, dapat dipercaya, dapat dipercaya, dan sesuai dengan nilai-nilai kemanusiaan.

Latar belakang dan pengalaman para ahli kami yang beragam menunjukkan bahwa komunitas ilmiah harus bekerja sama untuk mengembangkan dan menerapkan teknologi AI yang memprioritaskan dan bermanfaat bagi umat manusia.

Teknologi