Q:
Mengapa sesetengah pakar mengatakan bahawa AI akan "menghancurkan kesahihan digital"?
A:Pembelajaran mesin dan kepintaran buatan cepat berubah banyak industri, dan benar-benar membentuk semula cara-cara yang kita fikirkan kemajuan teknologi. Tetapi mereka juga melibatkan beberapa dikotomi dan percanggahan yang menarik mengenai bagaimana kami berkaitan dengan komputer dan peranti telefon pintar kami atau antara muka baru yang lain yang berlaku.
Salah satu soalan besar dengan kecerdasan buatan adalah bagaimana ia akan menjejaskan "keaslian" - atau bagaimana orang mengesahkan dan mengesahkan realiti yang wujud, di "ruang daging" atau di dunia digital. Apabila anda benar-benar menggali bagaimana cara ini berfungsi, anda melihat percanggahan yang wujud antara keterbatasan teknologi kami dan cara kami mempercayai teknologi yang kami gunakan.
Salah satu contoh terbaik dapat dijumpai dalam artikel Wired yang baru-baru ini yang menunjukkan bagaimana orang-orang yang mempunyai kecerdasan buatan dan sumber pembelajaran mesin dapat mengambil gambar kuda yang bergerak dan melapisi jalur zebra dalam suatu proses yang disebut oleh penulis "zebrafication."
Ia kemas dan baru, tetapi ia juga berpotensi menimbulkan masalah. Apabila anda melihat zebra pada skrin digital, bagaimanakah anda tahu bahawa ia adalah zebra, dan bukan hanya kuda dengan jalur zebra yang cerdik dipakai oleh orang yang berteknologi tinggi?
Ia mungkin kelihatan seperti soalan teoretikal, tetapi soalan-soalan yang sama tidak lama lagi akan memohon kepada berita yang kita dapatkan dalam bentuk digital - dari politik ke ekonomi kepada agama, semuanya akan bergantung kepada keupayaan kita untuk menyaring maklumat, untuk fakta menyemak dan membezakan antara kebenaran dan fiksyen, antara mitos dan realiti. Sebagai alat kecerdasan buatan baru menawarkan lebih banyak cara untuk memanipulasi imej dan video, ini akan menjadi lebih sukar.
Satu lagi contoh terbaik adalah teknologi suara baru. Dalam artikel beberapa tahun yang lalu, kami merangkumi projek IT yang baru yang mengambil suara orang-orang terkenal dan membina enjin model suara yang boleh membuat orang-orang terkenal itu mengatakan apa-apa dari luar kubur.
Sekali lagi, ini teknologi yang kemas dan menarik - nampaknya seperti cara yang menyeronokkan untuk menggunakan teknologi pemprosesan ucapan. Tetapi ia benar-benar akan menimbulkan masalah apabila kita membuat lompatan dari teknologi suara digital analog yang tidak dapat disunting sebelum ini kepada suara sintetik dan pasang siap yang baru. Bagaimana anda tahu siapa yang bercakap dengan anda - di telefon, di TV, atau di telinga anda?
Secara khusus, idea mengubah audio, imej dan video dengan cara yang canggih dapat menaikkan sebahagian daripada idea kami yang paling bernilai sebagai masyarakat. Bagaimana rakyat akan mempercayai apa yang mereka dengar dan lihat dalam dunia politik? Bagaimana dengan undang-undang - adakah orang-orang yang dituduh melakukan jenayah mempunyai jenis baru rayuan berdasarkan potensi pengubahan bukti?
Satu lagi cara untuk memahami beberapa masalah ini adalah dengan melihat penulisan fiksyen sains - dari "Fahrenheit 451" Ray Bradbury kepada George Orwell yang "1984" dan seterusnya, para pendengaran zaman lalu telah berulang kali memberi amaran kepada kita bahawa teknologi boleh digunakan untuk kedua-dua berguna dan berakhir dengan masalah. Salah satu sebab mengapa begitu banyak pakar dan ketua syarikat IT memanggil untuk "kecerdasan buatan yang dijelaskan" dan panel etika ialah mereka memahami isu itu - bahawa jika kita tidak mengawal teknologi dengan teliti, kita tidak akan dapat mempercayai mereka untuk mana-mana tahap. Daripada membantu kita untuk mencapai matlamat kita, mereka mungkin akan mencederakan kita, sebahagiannya dengan menyebabkan jenis kekacauan sosial yang wujud ketika kita tidak dapat menguasai kebenaran dan realiti. Sebahagian daripada berita gembira, bagaimanapun, adalah teknologi seperti blockchain, yang menyediakan pengesahan transaksional, boleh membantu apabila diterapkan ke rekod digital.
