Bolehkah anda mempercayai AI? Sekiranya anda menerima penemuannya secara objektif tanpa dipersoalkan? Masalahnya adalah bahawa walaupun mempersoalkan AI itu sendiri tidak akan menghasilkan jawapan yang jelas.
Sistem AI umumnya beroperasi seperti kotak hitam: Data adalah input, dan data adalah output, tetapi proses yang mengubah data itu adalah misteri. Yang mencipta masalah dua kali. Salah satunya ialah tidak jelas prestasi algoritma yang paling boleh dipercayai. Yang lain adalah bahawa keputusan yang seolah-olah objektif boleh dicemari oleh nilai-nilai dan sikap bias manusia yang memprogram sistem. Inilah sebabnya mengapa ada keperluan untuk ketelusan untuk proses pemikiran maya seperti menggunakan sistem, atau "AI dijelaskan."
Kewujudan etika telah menjadi undang-undang bagi sesiapa yang tertakluk kepada GDPR, yang memberi impak bukan sahaja perniagaan yang berpangkalan di EU tetapi ada yang berurusan dengan orang atau organisasi di sana. Ia mengandungi beberapa peruntukan mengenai perlindungan data yang diperluaskan kepada warga EU "hak untuk tidak tertakluk semata-mata untuk membuat keputusan secara automatik, kecuali dalam situasi tertentu" dan "hak untuk diberikan maklumat yang bermakna mengenai logik yang terlibat dalam keputusan . "
