Q:
Mengapa mungkin sebuah syarikat menutup projek AI chatbot?
A:Syarikat-syarikat mungkin menutup projek chatbot kecerdasan tiruan untuk banyak sebab, tetapi yang paling mungkin boleh dikelompokkan ke dalam beberapa kategori. Pertama, syarikat mungkin menutup teknologi chatbot jika mereka bertindak dengan cara yang mungkin membuat syarikat tidak selesa, seperti mempromosikan ucapan yang tidak menyenangkan. Secara bergantian, syarikat mungkin menutup projek chatbot jika ia mula membuktikan sentience dan keupayaan yang sama sekali tidak dapat dikendalikan dengan mudah, atau mungkin menimbulkan beberapa ancaman akhirnya kepada kesihatan dan keselamatan masyarakat.
Kami mempunyai kedua-dua senario ini didokumentasikan dalam sejarah terkini. Percubaan Microsoft dengan chatbot Tay berakhir apabila Tay mula mengambil beberapa ciri yang paling buruk dari rakan sejawatannya - ulasan perkauman dan agresif, dan aktiviti yang umumnya tidak menyenangkan, yang sebahagian besarnya jelas dipelajari atau ditakdirkan secara langsung dari pengguna.
Dalam kajian kes yang sangat berbeza, persediaan chatbot yang dipelopori oleh Facebook telah ditutup apabila saintis mengamati dua chatbots berkomunikasi satu sama lain dengan cara yang agak eksklusif untuk pemerhatian manusia. Terdapat perbalahan bahawa entiti chatbot telah mula "bercakap dalam sejenis kod" yang lebih mudah untuk mereka dan kurang telus kepada pengendali manusia mereka. Ini adalah satu contoh keprihatinan yang sangat nyata di sekitar kecerdasan buatan secara umumnya - apabila kita membuat kemajuan besar dalam perkembangan kecerdasan buatan yang kuat, manusia mesti bertindak untuk mengandungi dan mengawal apa-apa contoh implementasi AI untuk memastikan mereka tidak menyeberangi diberikan sempadan. Terdapat banyak masalah etika dan isu keselamatan yang perlu ditangani dengan kecerdasan buatan yang kuat, dan ini adalah salah satu sebab utama bahawa sesetengah chatbots atau projek kecerdasan buatan lain mungkin di masa depan ditutup oleh pihak berkepentingan yang telah membina dan menyokong mereka melalui proses tertentu.
