Q:
Mengapa sesetengah orang bimbang tentang kecerdasan buatan?
A:Perubahan tidak mudah, dan banyak orang mengalami kesukaran menyesuaikan diri dengannya. Ini adalah benar mengenai perubahan teknologi. Profesor Harvard yang dicatatkan Calestous Juma menulis buku mengenai subjek yang dipanggil "Inovasi dan Enemiesnya: Mengapa Orang Menentang Teknologi Baru." Buku ini menggariskan ketegangan antara inovasi dan tatanan sosial, menggambar pada 600 tahun sejarah. Kesan teknologi amat menyusahkan ketika datang ke kecerdasan buatan.
Tidak semua orang adalah buruk terhadap kemajuan ini. Ray Kurzweil, penulis "Singularity Near" dan "The Age of Spiritual Machines, " adalah tidak kurang daripada penginjil yang mempromosikan manfaat genetik, nanoteknologi, dan robotik (istilah yang digunakan untuk kecerdasan bukan biologi). Tetapi ini adalah isu yang sama - dan Kurzweil orang yang sama - yang menyebabkan kebimbangan besar pada tahun 2000 untuk Bill Joy, Ketua Saintifik di Sun Microsystems.
Joy menulis tentang kekhuatirannya dalam artikel yang terkenal sekarang dalam majalah Wired yang dipanggil "Mengapa Masa Depan Tidak Memerlukan Kami." Dia percaya bahawa masa depan umat manusia akan dipertaruhkan. Merujuk kepada pertandingan sejarah evolusi, Joy menulis, "Spesies biologi hampir tidak pernah bertahan menghadapi pesaing hebat." Kejayaan saintifik yang mengakibatkan mesin melampaui manusia datang dengan risiko yang ketara. Masa depan masa depan dystopian datang ke minda.
Misalkan saintis dapat membangun mesin dengan superintelligence buatan (ASI), tahap kecerdasan yang lebih tinggi daripada manusia. Joy mengatakan bahawa salah satu daripada dua perkara mungkin berlaku: Sama ada mesin akan dibenarkan untuk membuat keputusan sendiri, atau manusia akan mengekalkan kawalan ke atas mereka. Apa yang berlaku jika anda menyerahkan kuasa kepada mesin? Apa yang mungkin hasilnya?
Bill Joy bukan satu-satunya yang menyuarakan kebimbangan. Guru teknik Elon Musk berkata, "Dengan kepintaran buatan kita memanggil setan." Dia menyebutnya sebagai "ancaman eksistensi terbesar kita." Fizik Stephen Hawking memberitahu hadirin pada persidangan teknologi bahawa "kita tidak tahu sama ada kita akan dibantu oleh AI, atau diabaikan olehnya dan dibarisi sampingan, atau dimusnahkan olehnya. "Dan dia memberitahu majalah Wired, " Saya khawatir AI boleh menggantikan manusia sama sekali. "
Adakah ketakutan ini wajar? Filem-filem sci-fi seperti "Transcendence, " di mana bon karakter Johnny Depp dengan kecerdasan buatan dan mengatasi kekacauan, mengingatkan ramalan Kurzweil tentang bagaimana manusia dapat melompat dengan mesin. Imaginasi berjalan liar tentang semua cara yang kecerdasan buatan boleh menjadi salah. Apa yang berlaku apabila mesin mengawal?
Dua contoh kehidupan sebenar menggambarkan betapa bimbang tentang kecerdasan buatan boleh difahami. Pada tahun 2007, sebuah meriam robot menewaskan sembilan orang dan mencederakan 14. Sesetengah senjata tentera canggih secara automatik memilih sasaran mereka, tetapi menunggu manusia untuk mencetuskan pencetus. Siapa yang membuat keputusan di sini? Pada tahun 2016, sebuah robot keselamatan 300 paun mengetuk dan melarikan diri dari bayi berusia enam belas bulan. Siapa yang terkawal dalam hal ini: manusia atau mesin?
Alasan bahawa sesetengah orang bimbang tentang kecerdasan buatan ialah risiko sebenar. Soalan seterusnya: Bagaimana kita akan menguruskan risiko-risiko tersebut?
