Berikutan perbincangan 'maraton' selama tiga hari, jawatan presiden Majlis dan perunding Parlimen Eropah telah mencapai persetujuan sementara mengenai cadangan mengenai peraturan harmoni mengenai kecerdasan buatan (AI), yang dipanggil akta kecerdasan buatan. Draf peraturan itu bertujuan untuk memastikan sistem AI yang diletakkan di pasaran Eropah dan digunakan di EU adalah selamat dan menghormati hak asasi dan nilai EU. Cadangan mercu tanda ini juga bertujuan untuk merangsang pelaburan dan inovasi mengenai AI di Eropah.
Ini adalah satu pencapaian bersejarah, dan satu pencapaian besar ke arah masa depan! Perjanjian hari ini secara berkesan menangani cabaran global dalam persekitaran teknologi yang berkembang pesat dalam bidang utama untuk masa depan masyarakat dan ekonomi kita. Dan dalam usaha ini, kami berjaya mengekalkan keseimbangan yang sangat halus: meningkatkan inovasi dan penggunaan kecerdasan buatan di seluruh Eropah sambil menghormati hak asasi rakyat kami sepenuhnya. Carme Artigas, setiausaha negara Sepanyol untuk pendigitalan dan kecerdasan buatan
Tindakan AI ialah a perdana inisiatif perundangan yang berpotensi untuk memupuk pembangunan dan pengambilan AI yang selamat dan boleh dipercayai di seluruh pasaran tunggal EU oleh kedua-dua aktor swasta dan awam. Idea utama adalah untuk mengawal selia AI berdasarkan kapasiti yang terakhir untuk menyebabkan kemudaratan kepada masyarakat berikutan a 'berasaskan risiko' pendekatan: semakin tinggi risiko, semakin ketat peraturan. Sebagai cadangan perundangan pertama seumpamanya di dunia, ia boleh menetapkan a standard global untuk peraturan AI dalam bidang kuasa lain, sama seperti GDPR telah lakukan, sekali gus mempromosikan pendekatan Eropah terhadap peraturan teknologi di peringkat dunia.
Elemen utama perjanjian sementara
Berbanding dengan cadangan Suruhanjaya awal, elemen baharu utama perjanjian sementara boleh diringkaskan seperti berikut:
peraturan pada model AI tujuan am berimpak tinggi yang boleh menyebabkan risiko sistemik pada masa hadapan, serta berisiko tinggi Sistem AI
sistem yang telah disemak semula tadbir urus dengan beberapa kuasa penguatkuasaan di peringkat EU
lanjutan senarai larangan tetapi dengan kemungkinan untuk digunakan pengenalan biometrik jauh oleh pihak berkuasa penguatkuasaan undang-undang di ruang awam, tertakluk kepada perlindungan
perlindungan hak yang lebih baik melalui kewajipan bagi penggembur sistem AI berisiko tinggi untuk menjalankan a penilaian kesan hak asasi sebelum menggunakan sistem AI.
Dalam istilah yang lebih konkrit, perjanjian sementara meliputi aspek berikut:
Definisi dan skop
Untuk memastikan bahawa definisi sistem AI menyediakan kriteria yang cukup jelas untuk membezakan AI daripada sistem perisian yang lebih mudah, perjanjian kompromi menyelaraskan definisi dengan pendekatan yang dicadangkan oleh OECD.
Perjanjian sementara itu juga menjelaskan bahawa peraturan itu tidak terpakai kepada kawasan di luar skop undang-undang EU dan tidak sepatutnya, dalam apa jua keadaan, menjejaskan kecekapan negara anggota dalam keselamatan negara atau mana-mana entiti yang diamanahkan dengan tugas dalam bidang ini. Tambahan pula, akta AI tidak akan digunakan untuk sistem yang digunakan secara eksklusif untuk tentera or pertahanan tujuan. Begitu juga, perjanjian itu memperuntukkan bahawa peraturan itu tidak akan digunakan untuk sistem AI yang digunakan untuk tujuan tunggal penyelidikan dan inovasi, atau untuk orang yang menggunakan AI atas sebab bukan profesional.
Pengiklanan
Klasifikasi sistem AI sebagai amalan AI berisiko tinggi dan dilarang
Perjanjian kompromi memperuntukkan a lapisan perlindungan mendatar, termasuk klasifikasi berisiko tinggi, untuk memastikan sistem AI yang tidak mungkin menyebabkan pelanggaran hak asasi yang serius atau risiko penting lain tidak ditangkap. Pembentangan sistem AI sahaja risiko terhad akan tertakluk kepada sangat ringan kewajipan ketelusan, contohnya mendedahkan bahawa kandungan itu dijana AI supaya pengguna boleh membuat keputusan termaklum mengenai penggunaan selanjutnya.
Pelbagai berisiko tinggi Sistem AI akan diberi kuasa, tetapi tertakluk kepada satu set keperluan dan kewajipan untuk mendapatkan akses kepada pasaran EU. Keperluan ini telah dijelaskan dan diselaraskan oleh penggubal undang-undang bersama dengan cara yang lebih boleh dilaksanakan secara teknikal and kurang membebankan untuk dipatuhi oleh pihak berkepentingan, contohnya mengenai kualiti data, atau berkaitan dengan dokumentasi teknikal yang perlu disediakan oleh PKS untuk menunjukkan bahawa sistem AI berisiko tinggi mereka mematuhi keperluan.
Memandangkan sistem AI dibangunkan dan diedarkan melalui rantaian nilai yang kompleks, perjanjian kompromi termasuk perubahan yang menjelaskan pembahagian tanggungjawab and peranan pelbagai pelakon dalam rantaian tersebut, khususnya penyedia dan pengguna sistem AI. Ia juga menjelaskan hubungan antara tanggungjawab di bawah Akta AI dan tanggungjawab yang sudah wujud di bawah perundangan lain, seperti perlindungan data EU yang berkaitan atau perundangan sektoral.
Untuk beberapa penggunaan AI, risiko dianggap tidak boleh diterima dan, oleh itu, sistem ini akan diharamkan daripada EU. Perjanjian sementara melarang, sebagai contoh, kognitif manipulasi tingkah laku, yang tidak disasarkan memecahkan imej muka daripada internet atau rakaman CCTV, pengiktirafan emosi di tempat kerja dan institusi pendidikan, pemarkahan sosial, pengkategorian biometrik untuk membuat kesimpulan data sensitif, seperti orientasi seksual atau kepercayaan agama, dan beberapa kes kepolisian ramalan untuk individu.
Pengecualian penguatkuasaan undang-undang
Memandangkan kekhususan pihak berkuasa penguatkuasa undang-undang dan keperluan untuk mengekalkan keupayaan mereka untuk menggunakan AI dalam kerja penting mereka, beberapa perubahan kepada cadangan Suruhanjaya telah dipersetujui berkaitan dengan penggunaan sistem AI untuk tujuan penguatkuasaan undang-undang. Tertakluk kepada yang sesuai Perlindungan, perubahan ini bertujuan untuk mencerminkan keperluan untuk menghormati kerahsiaan data operasi sensitif berhubung dengan aktiviti mereka. Sebagai contoh, prosedur kecemasan diperkenalkan yang membolehkan agensi penguatkuasaan undang-undang menggunakan alat AI berisiko tinggi yang tidak melepasi penilaian pematuhan prosedur sekiranya berlaku kecemasan. Walau bagaimanapun, mekanisme khusus juga telah diperkenalkan untuk memastikannya hak asasi akan dilindungi secukupnya daripada sebarang kemungkinan penyalahgunaan sistem AI.
Selain itu, berkenaan penggunaan masa nyata pengenalan biometrik jauh sistem dalam ruang yang boleh diakses awam, perjanjian sementara menjelaskan objektif di mana penggunaan sedemikian amat diperlukan untuk tujuan penguatkuasaan undang-undang dan oleh itu pihak berkuasa penguatkuasaan undang-undang harus dibenarkan secara luar biasa menggunakan sistem sedemikian. Perjanjian kompromi memperuntukkan perlindungan tambahan dan mengehadkan pengecualian ini kepada kes mangsa jenayah tertentu, pencegahan ancaman yang tulen, sekarang atau boleh diramal, seperti serangan pengganas, dan mencari orang yang disyaki melakukan jenayah paling serius.
Sistem AI tujuan umum dan model asas
Peruntukan baharu telah ditambah untuk mengambil kira situasi di mana sistem AI boleh digunakan untuk pelbagai tujuan (AI tujuan umum), dan di mana teknologi AI tujuan umum kemudiannya disepadukan ke dalam sistem berisiko tinggi yang lain. Perjanjian sementara itu juga menangani kes khusus sistem AI (GPAI) tujuan umum.
Peraturan khusus juga telah dipersetujui model asas, sistem besar yang mampu melaksanakan pelbagai tugas tersendiri dengan cekap, seperti menjana video, teks, imej, berbual dalam bahasa sisi, pengkomputeran atau menjana kod komputer. Perjanjian sementara memperuntukkan bahawa model asas mesti mematuhi khusus kewajipan ketelusan sebelum diletakkan di pasaran. Rejim yang lebih ketat telah diperkenalkan untuk 'impak tinggi' model asas. Ini adalah model asas yang dilatih dengan jumlah data yang besar dan dengan kerumitan lanjutan, keupayaan dan prestasi jauh melebihi purata, yang boleh menyebarkan risiko sistemik di sepanjang rantaian nilai.
Seni bina tadbir urus baharu
Mengikuti peraturan baharu mengenai model GPAI dan keperluan yang jelas untuk penguatkuasaan mereka di peringkat EU, an Pejabat AI dalam Suruhanjaya ditubuhkan ditugaskan untuk mengawasi model AI yang paling maju ini, menyumbang kepada memupuk piawaian dan amalan ujian, dan menguatkuasakan peraturan biasa di semua negara anggota. A panel saintifik pakar bebas akan menasihati Pejabat AI tentang model GPAI, dengan menyumbang kepada pembangunan metodologi untuk menilai keupayaan model asas, memberi nasihat tentang penetapan dan kemunculan model asas berimpak tinggi, dan memantau kemungkinan risiko keselamatan bahan yang berkaitan dengan model asas.
. Lembaga AI, yang akan terdiri daripada wakil negara anggota, akan kekal sebagai platform penyelarasan dan badan penasihat kepada Suruhanjaya dan akan memberi peranan penting kepada Negara Anggota dalam pelaksanaan peraturan itu, termasuk reka bentuk kod amalan untuk model asas. Akhirnya, an forum nasihat bagi pihak berkepentingan, seperti wakil industri, PKS, syarikat baharu, masyarakat sivil, dan ahli akademik, akan ditubuhkan untuk menyediakan kepakaran teknikal kepada Lembaga AI.
Penalti
Denda bagi pelanggaran akta AI ditetapkan sebagai peratusan pusing ganti tahunan global syarikat yang bersalah pada tahun kewangan sebelumnya atau jumlah yang telah ditetapkan, yang mana lebih tinggi. Ini akan menjadi €35 juta atau 7% untuk pelanggaran aplikasi AI yang dilarang, €15 juta atau 3% untuk pelanggaran kewajipan akta AI dan €7,5 juta atau 1,5% untuk pembekalan maklumat yang salah. Walau bagaimanapun, perjanjian sementara memperuntukkan topi yang lebih berkadar mengenai denda pentadbiran untuk PKS dan pemula sekiranya berlaku pelanggaran peruntukan akta AI.
Perjanjian kompromi juga menjelaskan bahawa orang asli atau undang-undang boleh membuat aduan kepada yang berkaitan pihak berkuasa pengawasan pasaran berkenaan ketidakpatuhan terhadap akta AI dan mungkin menjangkakan bahawa aduan sedemikian akan dikendalikan selaras dengan prosedur khusus pihak berkuasa tersebut.
Ketelusan dan perlindungan hak asasi
Perjanjian sementara memperuntukkan a penilaian kesan hak asasi sebelum sistem AI berisiko tinggi diletakkan di pasaran oleh penggemburnya. Perjanjian sementara juga memperuntukkan peningkatan ketelusan berkenaan penggunaan sistem AI berisiko tinggi. Terutama, beberapa peruntukan cadangan Suruhanjaya telah dipinda untuk menunjukkan bahawa pengguna tertentu sistem AI berisiko tinggi yang merupakan entiti awam juga akan diwajibkan untuk mendaftar dalam pangkalan data EU untuk sistem AI berisiko tinggi. Selain itu, peruntukan yang baru ditambah memberi penekanan kepada kewajipan untuk pengguna sesuatu sistem pengecaman emosi untuk memaklumkan orang semula jadi apabila mereka terdedah kepada sistem sedemikian.
Langkah-langkah menyokong inovasi
Dengan tujuan untuk mewujudkan rangka kerja undang-undang yang lebih mesra inovasi dan untuk menggalakkan pembelajaran kawal selia berasaskan bukti, peruntukan berkenaan langkah-langkah menyokong inovasi telah diubah suai dengan ketara berbanding dengan cadangan Suruhanjaya.
Terutama, telah dijelaskan bahawa AI kotak pasir peraturan, yang sepatutnya mewujudkan persekitaran terkawal untuk pembangunan, ujian dan pengesahan sistem AI inovatif, juga harus membenarkan ujian sistem AI inovatif dalam keadaan dunia sebenar. Tambahan pula, peruntukan baharu telah ditambah membenarkan ujian sistem AI dalam keadaan dunia sebenar, di bawah syarat dan perlindungan tertentu. Untuk meringankan beban pentadbiran bagi syarikat yang lebih kecil, perjanjian sementara termasuk senarai tindakan yang perlu diambil untuk menyokong pengendali tersebut dan memperuntukkan beberapa pengurangan yang terhad dan dinyatakan dengan jelas.
Kemasukan ke dalam kuasa
Perjanjian sementara memperuntukkan bahawa akta AI harus digunakan dua tahun selepas ia mula berkuat kuasa, dengan beberapa pengecualian untuk peruntukan tertentu.
Langkah seterusnya
Berikutan perjanjian sementara hari ini, kerja akan diteruskan di peringkat teknikal dalam beberapa minggu akan datang untuk memuktamadkan butiran peraturan baharu itu. Pihak presiden akan menyerahkan teks kompromi kepada wakil negara anggota (Coreper) untuk pengesahan sebaik sahaja kerja ini selesai.
Keseluruhan teks perlu disahkan oleh kedua-dua institusi dan menjalani semakan undang-undang-linguistik sebelum diterima pakai secara rasmi oleh penggubal undang-undang bersama.
Latar belakang
Cadangan Suruhanjaya, yang dibentangkan pada April 2021, merupakan elemen utama dasar EU untuk memupuk pembangunan dan penyerapan merentas pasaran tunggal AI yang selamat dan sah yang menghormati hak asasi.
Cadangan itu mengikuti pendekatan berasaskan risiko dan menetapkan rangka kerja undang-undang mendatar seragam untuk AI yang bertujuan untuk memastikan kepastian undang-undang. Draf peraturan itu bertujuan untuk menggalakkan pelaburan dan inovasi dalam AI, meningkatkan tadbir urus dan penguatkuasaan berkesan undang-undang sedia ada mengenai hak asasi dan keselamatan, dan memudahkan pembangunan pasaran tunggal untuk aplikasi AI. Ia seiring dengan inisiatif lain, termasuk rancangan terkoordinasi mengenai kecerdasan buatan yang bertujuan untuk mempercepatkan pelaburan dalam AI di Eropah. Pada 6 Disember 2022, Majlis mencapai persetujuan untuk pendekatan umum (mandat rundingan) pada fail ini dan memasuki perbincangan antara institusi dengan Parlimen Eropah ('trilog') pada pertengahan Jun 2023.
EU Reporter menerbitkan artikel daripada pelbagai sumber luar yang menyatakan pelbagai sudut pandangan. Jawatan yang diambil dalam artikel ini tidak semestinya jawatan Pemberita EU.
