Q:
Mengapa sesetengah syarikat merenung menambah "kawalan maklum balas manusia" kepada sistem AI moden?
A:Sesetengah syarikat yang bekerja dengan teknologi AI yang canggih sedang berusaha untuk memulakan kawalan manusia untuk sistem ini, memberikan pembelajaran mesin dan alat pembelajaran mendalam beberapa pengawasan manusia secara langsung. Syarikat-syarikat ini bukanlah pemain kecil, sama ada - DeepMind Google dan OpenAI Elon Musk's adalah dua contoh syarikat-syarikat utama yang mendapat kemajuan mengenai kecerdasan buatan buatan. Dengan itu, hasilnya berbeza - contohnya, DeepMind telah menjadi subjek kontroversi kerana keengganannya untuk memberikan data penting kepada orang ramai, sementara OpenAI lebih terbuka, mengenai kerja mereka untuk mengawal kecerdasan buatan.
Malah, seperti yang dijelaskan oleh Bill Gates mengenai masalah itu, Gates mengatakan bahawa dia adalah salah seorang dari ramai yang prihatin tentang kemunculan superintelligence buatan yang mungkin dalam beberapa cara bergerak melampaui kawalan manusia. Musk, untuk bahagiannya, juga telah mengeluarkan beberapa bahasa yang membimbangkan mengenai kemungkinan "penyangak AI."
Itu mungkin sebab paling mendesak bahawa syarikat-syarikat sedang berusaha untuk mengawal kawalan manusia untuk AI - idea bahawa sesetengah keistimewaan teknologi akan menghasilkan teknologi yang sangat kuat yang tidak dapat dikendalikan oleh manusia lagi. Sejak awal cita-cita manusia, kami telah meletakkan alat untuk memastikan bahawa kami dapat mengawal kuasa yang kami gunakan - sama ada kuda dengan gerbang dan memanfaatkan, elektrik dalam wayar yang dilindungi, atau jenis mekanisme kawalan lain, yang mempunyai kawalan adalah fungsi manusia yang dalam dan oleh itu ia menjadikan semua makna di dunia sebagai kecerdasan buatan mendekati fungsi yang sebenar, manusia menggunakan kawalan langsung mereka sendiri untuk memastikan kuasa itu di cek.
Bagaimanapun, ketakutan terhadap robot super pintar bukan satu-satunya sebab syarikat menggunakan kawalan manusia untuk pembelajaran mesin dan projek AI. Alasan utama lain ialah berat sebelah mesin - ini adalah idea bahawa sistem perisikan buatan sering terhad dalam bagaimana mereka menilai data yang dipersoalkan - supaya mereka menguatkan sebarang bias yang wujud dalam sistem. Kebanyakan profesional yang berurusan dengan pembelajaran mesin boleh memberitahu cerita seram mengenai sistem IT yang tidak dapat merawat kumpulan pengguna manusia sama ada - sama ada jantina atau kesenjangan etnik, atau kegagalan lain sistem untuk benar-benar memahami nuansa masyarakat manusia kita dan bagaimana kita berinteraksi dengan orang lain.
Dalam erti kata, kita mungkin meletakkan kawalan manusia pada sistem kerana kita takut mereka mungkin terlalu kuat - atau bergantian, kerana kita takut mereka mungkin tidak cukup kuat. Kawalan manusia membantu untuk menyasarkan set data pembelajaran mesin untuk memberikan lebih ketepatan. Mereka membantu untuk mengukuhkan idea-idea yang komputer hanya tidak dapat belajar dengan sendiri, sama ada kerana model itu tidak cukup canggih, kerana AI tidak maju cukup jauh, atau kerana beberapa perkara hanya terletak di wilayah kognisi manusia. Kecerdasan buatan sangat bagus untuk beberapa perkara - contohnya, sistem berasaskan ganjaran dan skor membenarkan kecerdasan buatan untuk mengalahkan pemain manusia di permainan papan yang sangat kompleks "Pergi" - tetapi untuk perkara lain, sistem berasaskan insentif ini adalah tidak mencukupi sepenuhnya.
Ringkasnya, terdapat banyak sebab yang menarik untuk memastikan pengguna manusia terlibat secara langsung dalam bagaimana projek-projek kecerdasan buatan berfungsi. Malah teknologi kecerdasan buatan terbaik boleh melakukan banyak pemikiran sendiri - tetapi tanpa otak manusia biologi yang sebenarnya yang boleh memproses perkara seperti emosi dan latar belakang sosial, mereka tidak dapat melihat gambaran besar dengan cara manusia.
Sebuah syarikat pembelajaran mesin yang mahir dapat membantu menyeimbangkan keseimbangan ini dengan gabungan perniagaan dan pakar mata pelajaran dan pemaju pembelajaran mesin dengan kemahiran untuk menyelesaikan masalah perniagaan besar.
