Isi kandungan:
Profesional keselamatan siber melihat kecerdasan buatan (AI) dengan keghairahan dan keraguan. Di satu pihak, ia berpotensi menambah lapisan pembelaan sepenuhnya untuk data dan infrastruktur kritikal, tetapi di sisi lain, ia juga boleh digunakan sebagai senjata yang kuat untuk menggagalkan pertahanan itu tanpa meninggalkan jejak.
Seperti mana-mana teknologi, AI mempunyai kedua-dua kekuatan untuk menjadi leveraged dan kelemahan yang boleh dieksploitasi. Cabaran untuk pakar keselamatan hari ini adalah untuk menjaga satu langkah di hadapan orang jahat, yang harus bermula dengan pemahaman yang jelas tentang bagaimana AI boleh digunakan sebagai senjata data yang menyinggung.
Hacking AI
Untuk satu perkara, kata Wired's Nicole Kobie, kita harus menyedari bahawa, seperti persekitaran data, AI sendiri boleh digodam. Di tengah-tengah setiap proses pintar terdapat algoritma, dan algoritma bertindak balas terhadap data yang mereka terima. Penyelidik telah menunjukkan bagaimana rangkaian saraf boleh ditipu memikirkan gambar kura-kura sebenarnya adalah gambar senapang dan bagaimana pelekat mudah pada tanda berhenti boleh menyebabkan kereta autonomi memandu terus ke persimpangan. Manipulasi semacam ini tidak hanya mungkin selepas AI dilancarkan, tetapi apabila ia dilatih juga, berpotensi memberi penggodam keupayaan untuk melampaui segala macam malapetaka tanpa perlu menyentuh infrastruktur perusahaan pelanggan.
