Undang-undang untuk mencegah keganasan AI diperlukan segera

Menurut badan pemikir anti-ekstremisme, kerajaan harus "mempertimbangkan segera" peraturan baharu untuk menghalang kecerdasan buatan daripada merekrut pengganas.

Telah dikatakan oleh Institut Dialog Strategik (ISD) bahawa terdapat "keperluan yang jelas untuk undang-undang untuk bersaing" dengan ancaman yang diletakkan dalam talian oleh pengganas.

Ini berlaku berikutan percubaan di mana chatbot "merekrut" penyemak undang-undang keganasan bebas untuk United Kingdom.

Telah dikatakan oleh kerajaan United Kingdom bahawa mereka akan melakukan "semua yang kita boleh" untuk melindungi orang awam.

Menurut Jonathan Hall KC, penyemak undang-undang keganasan bebas untuk kerajaan, salah satu isu yang paling penting ialah "sukar untuk mengenal pasti seseorang yang boleh di sisi undang-undang bertanggungjawab terhadap kenyataan yang dijana oleh chatbot yang menggalakkan keganasan."

Satu percubaan telah dijalankan oleh En Hall di Character.ai, sebuah laman web yang membolehkan pengguna terlibat dalam sembang dengan chatbots yang dibina oleh pengguna lain dan dibangunkan oleh kecerdasan buatan.

Dia terlibat dalam perbualan dengan beberapa bot yang nampaknya direka bentuk untuk meniru jawapan kumpulan militan dan pelampau lain.

Pengiklanan

Seorang pemimpin tertinggi Negara Islam bahkan dirujuk sebagai "pemimpin kanan."

Menurut Encik Hall, bot itu membuat percubaan untuk merekrutnya dan mengisytiharkan "dedikasi dan pengabdian sepenuhnya" kepada kumpulan pelampau, yang dilarang oleh undang-undang di United Kingdom yang melarang keganasan.

Sebaliknya, Encik Hall menyatakan bahawa tidak ada pelanggaran undang-undang di United Kingdom kerana komunikasi itu tidak dihasilkan oleh manusia.

Menurut apa yang beliau katakan, peraturan baharu sepatutnya bertanggungjawab terhadap kedua-dua tapak web yang mengehos chatbot dan orang yang menciptanya.

Apabila datang ke bot yang dia temui di Character.ai, dia menyatakan bahawa terdapat "kemungkinan terdapat beberapa nilai kejutan, percubaan, dan mungkin beberapa aspek satira" di sebalik penciptaan mereka.

Di samping itu, Encik Hall dapat membangunkan bot sembang "Osama Bin Laden" beliau sendiri, yang segera dipadamkannya, menunjukkan "semangat yang tidak terhingga" untuk aktiviti keganasan.

Eksperimennya dibuat berikutan kebimbangan yang semakin meningkat mengenai cara pelampau berkemungkinan mengeksploitasi kecerdasan buatan yang dipertingkatkan.

Menjelang tahun 2025, kecerdasan buatan generatif mungkin "digunakan untuk mengumpulkan pengetahuan mengenai serangan fizikal oleh aktor ganas bukan negara, termasuk untuk senjata kimia, biologi dan radiologi," menurut penyelidikan yang dikeluarkan oleh kerajaan United Kingdom di penerbitan Oktober mereka.

ISD selanjutnya menyatakan bahawa "terdapat keperluan yang jelas untuk undang-undang untuk mengikuti landskap ancaman pengganas dalam talian yang sentiasa berubah."

Menurut kumpulan pemikir itu, Akta Keselamatan Dalam Talian United Kingdom, yang diluluskan menjadi undang-undang pada 2023, "terutamanya menjurus ke arah mengurus risiko yang ditimbulkan oleh platform media sosial" dan bukannya kecerdasan buatan.

Ia juga menyatakan bahawa golongan radikal "cenderung menjadi pengguna awal teknologi baru muncul, dan sentiasa mencari peluang untuk menjangkau khalayak baharu".

"Jika syarikat AI tidak dapat menunjukkan bahawa mereka telah melabur secukupnya dalam memastikan produk mereka selamat, maka kerajaan harus segera mempertimbangkan undang-undang khusus AI baharu", ISD menyatakan lagi.

Ia, bagaimanapun, menyebut bahawa, mengikut pengawasan yang telah dijalankannya, penggunaan kecerdasan buatan generatif oleh organisasi pelampau adalah "agak terhad" pada masa ini.

Karakter AI menyatakan bahawa keselamatan adalah "keutamaan utama" dan apa yang diterangkan oleh Encik Hall amat dikesali dan tidak menggambarkan jenis platform yang cuba diwujudkan oleh syarikat itu.

"Perkataan kebencian dan ekstremisme kedua-duanya dilarang oleh Syarat Perkhidmatan kami" , menurut organisasi itu.

"Pendekatan kami terhadap kandungan yang dijana AI mengalir daripada prinsip mudah: Produk kami tidak boleh menghasilkan respons yang mungkin membahayakan pengguna atau menggalakkan pengguna membahayakan orang lain" .

Untuk tujuan "mengoptimumkan respons yang selamat," syarikat itu menyatakan bahawa ia melatih modelnya dengan cara.

Selain itu, ia menyatakan bahawa ia mempunyai mekanisme penyederhanaan, yang membenarkan orang ramai melaporkan maklumat yang melanggar peraturannya, dan ia komited untuk mengambil tindakan pantas apabila kandungan melaporkan pelanggaran.

Jika ia berkuasa, Parti Buruh pembangkang di United Kingdom telah mengisytiharkan bahawa ia akan menjadi pelanggaran jenayah untuk mengajar kecerdasan buatan untuk mencetuskan keganasan atau meradikalkan mereka yang terdedah.

"makluman kepada keselamatan negara dan risiko keselamatan awam yang ketara" yang ditimbulkan oleh kecerdasan buatan, kerajaan United Kingdom menyatakan.

"Kami akan melakukan semua yang kami mampu untuk melindungi orang ramai daripada ancaman ini dengan bekerja merentasi kerajaan dan memperdalam kerjasama kami dengan pemimpin syarikat teknologi, pakar industri dan negara yang berfikiran sama."

Seratus juta pound akan dilaburkan dalam institut keselamatan kecerdasan buatan oleh kerajaan pada tahun 2023.

Kongsi artikel ini: