Q:
Mengapa DARPA menyelidik "dijelaskan AI"?
A:Secara umum, kecerdasan buatan yang dijelaskan menjadi sebahagian daripada karya canggih dalam bidang sains data. Ia membantu untuk mengawal kawalan manusia terhadap jenis teknologi yang tidak menentu dan dinamik - AI dapat dijelaskan membantu menjawab banyak soalan kolektif kami tentang bagaimana kecerdasan buatan akan berfungsi.
Untuk memahami AI yang dijelaskan, ia membantu memahami apa yang "biasa AI" kelihatan seperti. Secara tradisinya, apabila AI mula terbentuk, projek tipikal ini terdiri daripada keupayaan perisian baru yang mewah, tersembunyi dalam algoritma dan set latihan dan kod linear, seperti "kotak blok" kepada pengguna. Mereka tahu bahawa ia berfungsi - mereka hanya tidak tahu dengan tepat.
Ini boleh membawa kepada "isu amanah" di mana pengguna boleh mempersoalkan asas teknologi yang membuat keputusan. Itulah yang dijelaskan AI sepatutnya alamat: Projek-projek AI yang dijelaskan datang dengan infrastruktur tambahan untuk menunjukkan pengguna akhir niat dan struktur AI - mengapa ia melakukan apa yang dilakukannya.
Pada zaman di mana inovator teratas seperti Bill Gates dan Elon Musk menyatakan keprihatinan tentang bagaimana kecerdasan buatan akan berfungsi, dijelaskan AI nampaknya sangat menarik. Pakar berpendapat bahawa AI yang boleh dijelaskan dapat membantu pengguna memahami mengapa teknologi melakukan apa yang mereka lakukan, meningkatkan kepercayaan, dan juga meningkatkan kemudahan dan penggunaan teknologi ini.
Khususnya, DARPA menerangkan secara khusus mengapa ia berminat dengan projek-projek baru. Halaman di DARPA menunjukkan bahawa Jabatan Pertahanan menjangka "torrent" aplikasi kecerdasan buatan, dan beberapa kekacauan dalam perkembangannya.
"Meneruskan pendahuluan janji untuk menghasilkan sistem autonomi yang akan melihat, belajar, memutuskan, dan bertindak sendiri, " tulis David Gunning. "Bagaimanapun, keberkesanan sistem ini dibatasi oleh ketidakmampuan semasa mesin untuk menjelaskan keputusan dan tindakan mereka kepada pengguna manusia. … Jelaskan AI - pembelajaran mesin yang dijelaskan terutamanya - akan menjadi penting jika ahli waris masa depan memahami, mempercayai, dan mengurus secara efektif generasi generasi pesaing mesin yang bijak. "
Esei dalam talian Gunning menunjukkan bahawa sistem AI yang dijelaskan akan membantu "menyediakan rasional" untuk teknologi, menunjukkan kekuatan dan kelemahan mereka, dan menggunakan kes yang lebih telus. Grafik di halaman menunjukkan bagaimana saluran paip fungsional kecerdasan buatan dari data latihan akan ditambah dengan sesuatu yang dipanggil model yang dijelaskan dan antara muka yang dijelaskan yang akan membantu pengguna menjawab soalan. Gunning seterusnya mencadangkan bahawa program AI yang dijelaskan akan mempunyai dua bidang tumpuan utama - satu akan menyaring data multimedia untuk mencari apa yang berguna kepada pengguna, dan tumpuan kedua akan mensimulasikan proses keputusan untuk sokongan keputusan.
DARPA berharap dapat menyediakan "toolkit" yang dapat membantu membangunkan sistem AI yang boleh dijelaskan di masa depan.
