Bolehkah strategi #AI pintar meyakinkan EU bahawa kesesuaian kandungan #Facebook terpulang kepada tembakau?

Pada 17 Februari, ketika bertemu dengan pembuat dasar Eropah di Brussels, CEO Facebook Mark Zuckerberg (Gambar) mengeluarkan kertas putih yang menggariskan strateginya untuk menangani kandungan berbahaya di platform media sosial. Sebagai tindak balas kepada keinginan Kesatuan Eropah untuk mengawasi pengawasan sektor teknologi, jutawan itu membuat kes yang industri itu harus dikawal selia di peringkat global, bukannya tempatan.

Beliau juga berpendapat bahawa akauntabiliti syarikat-syarikat teknologi untuk kandungan berbahaya di platform mereka harus terhad-selagi mereka mempunyai sistem penyederhanaan kandungan yang berkesan. Walau bagaimanapun, cadangan Zuckerberg menerima sambutan hangat di Brussels. Walaupun selepas bertemu dengan Zuckerberg, UE mengekalkan cadangan penyederhanaan kandungan baru Facebook jatuh pada banyak bidang, terutama sekali gagal untuk menggambarkan langkah-langkah konkrit platform yang diperlukan untuk memerangi kandungan haram dalam talian. "Ia tidak mencukupi. Ia terlalu lambat, ia terlalu rendah dari segi tanggungjawab dan peraturan, "kata pesuruhjaya strategi data Thierry Breton selepas duduk dengan eksekutif tertinggi Facebook.

Di manakah sistem semasa Facebook jatuh pendek?

Gergasi Tech mempunyai tingkap yang agak sempit untuk meyakinkan para pembuat dasar Eropah bahawa usaha mereka sendiri untuk membendung kandungan bermasalah mencukupi. Akta Perkhidmatan Digital Suruhanjaya, semakan yang panjang ditunggu-tunggu mengenai arahan e-dagang berusia 20 tahun EU, dijangka akan dilancarkan pada akhir tahun ini. Seperti yang dinyatakan oleh Breton, "jika kita melihat bahawa [proses Facebook sendiri untuk menyederhanakan kandungan] bukanlah apa yang kita perlukan mengenai piawaian kita sendiri, kita perlu mengawal dan meletakkannya di dalam [Akta Perkhidmatan Digital] kami".

Facebook menentukan bahawa ia dapat menyelesaikan masalah pemasaan kandungan itu sendiri-dengan menggunakan kemajuan dalam Kecerdasan Buatan (AI) dan pembelajaran mesin untuk meningkatkan sistem semasa. Tugas berduri untuk mengenalpasti dan menghapus bahan bermasalah kini disalurkan kepada profesional pihak ketiga yang menggunakan budi bicara mereka untuk menentukan mengapa imej atau video tidak sesuai.

Kebergantungan terhadap pengawasan manusia itu bermasalah memandangkan sifat pengecut beberapa penyederhana kandungan dipaksa untuk menyegerak-hakikat bahawa pekerja menyederhanakan kandungan untuk Facebook di Lisbon, Dublin dan Warsaw telah membuktikan bahawa kerja mereka telah memberi mereka PTSD pasti menaikkan bendera merah di institusi Eropah. Di samping itu, keefektifan kesederhanaan manusia telah dipersoalkan selepas Facebook telah berulang kali gagal untuk cepat membuang kandungan berbahaya seperti streaming langsung 2019 serangan masjid Christchurch.

AI boleh memasang beberapa tempat buta Facebook

Pengiklanan

Kecerdasan buatan mempunyai potensi untuk mengurangkan ketergantungan sedemikian ke atas penyederhanaan manusia. Algoritma yang dilatih oleh pembelajaran mesin boleh menyokong penyederhana oleh bukan sahaja mengurangkan pendedahan mereka terhadap kandungan dalam talian yang berbahaya tetapi juga dengan menambah produktiviti dan ketepatan mereka. Facebook mendakwa telah mencapai keputusan yang menjanjikan dalam eksperimennya dengan AI setakat ini-menurut platform, pada separuh kedua 2019 platform itu berhasil membenderakan 99.8% kandungan grafik dan 99.5% kebogelan dan eksploitasi anak walaupun sebelum pengguna memberi isyarat kepada mereka . Sudah tentu, teknologi ini masih memerlukan algoritma pemantapan kandungan yang lebih baik berdasarkan AI yang masih sangat perjuangan dengan mengenali nuansa ucapan kebencian, sebagai contoh - satu isu Kesatuan Eropah amat prihatin.

Lebih-lebih lagi, Kesatuan Eropah berhati-hati kerana membenarkan Facebook memerintah secara percuma dalam mengeksploitasi teknologi sensitif seperti AI. Kebimbangan ini terutama berpunca daripada rekod jejak buruk Facebook dalam memenuhi standard ketelusan Eropah-menimbulkan hantu bahawa syarikat mungkin membangun 'algoritma kotak hitam' yang menghalang audit pihak ketiga atau kerajaan di platform.

Di tengah-tengah dasar digital yang dikeluarkan minggu lalu oleh ketua carta dan ketua persatuan EU, Margrethe Vestager-mengawal selia bagaimana syarikat menggunakan kecerdasan buatan. Walaupun EU mahu kerajaan memantau aspek risiko, seperti penggunaan teknologi pengenalan wajah, banyak aplikasi di halaman belakang Eropah sendiri menunjukkan bagaimana ia boleh digunakan dengan selamat dan berkesan. Bolehkah Facebook mengambil petunjuk daripada mereka?

Apl media sosial gen seterusnya membuat tanda dengan menggunakan AI secara inovatif

Satu aplikasi Eropah khususnya telah memanfaatkan kecerdasan buatan secara kreatif untuk menyediakan pengguna muda dengan pengalaman yang lebih selamat dan lebih menyenangkan. Yubo, aplikasi live streaming untuk umur 13-25, bergantung pada keseimbangan antara algoritma kompleks dan mendidik orang muda mengenai bahaya dalam talian untuk memastikan 20 juta pengguna selamat di platform. Algoritma yang terlatih dengan teliti mendeteksi kandungan bermasalah seperti kebogelan atau seseorang hanya dalam seluar dalam aliran hidup-iaitu apabila sistem intervensi masa nyata Yubo melangkah masuk, menghantar mesej amaran kepada pengguna yang menjelaskan mengapa tingkah laku tersebut tidak sesuai. Jika pengguna tidak membetulkan tingkah laku mereka, strim boleh ditutup dari jauh.

Untuk memastikan bahawa aplikasi itu dikhaskan untuk golongan remaja dan orang dewasa, sementara itu, Yubo telah bekerjasama dengan penyedia identiti digital yang berpangkalan di UK, Yoti, yang sepadan dengan dokumen pengenalan yang dimuat naik ke pengguna sendiri menggunakan perisian pengenalan wajah. Teknologi Yoti yang juga digunakan di pasar raya untuk memastikan bahawa tahun ke-18 tidak membeli barangan terhad seperti rokok atau alkohol- boleh digunakan oleh aplikasi media sosial lain untuk "membuka pintu" komuniti mereka atau untuk memastikan pengguna yang mereka kata mereka.

Percubaan Yubo untuk mengatasi kandungan dalam talian yang bermasalah dalam usaha untuk menggabungkan kesederhanaan dibantu komputer dengan peminat pengguna muda mengenai apa yang perlu dan tidak perlu protokol dalam talian-telah membuat percikan dalam sektor teknologi. Mereka juga harus memberikan contoh yang menggalakkan kepada kedua-dua gergasi teknologi seperti Facebook dan pengawal selia seperti Kesatuan Eropah bahawa platform media sosial boleh menyerang keseimbangan yang sihat antara terlalu bergantung pada pemantauan AI atau manusia.

Kecerdasan buatan bukanlah penyembuhan-semua untuk cabaran yang dihadapi oleh platform media sosial. Memandangkan Facebook berusaha untuk meyakinkan EU bahawa ia mampu menyederhanakan kandungannya sendiri, namun ia akan dilayan dengan baik dengan mengambil petunjuk daripada aplikasi generasi baru yang telah berjaya membangunkan strategi holistik, menggabungkan AI, untuk memastikan pengguna mereka selamat .

Kongsi artikel ini: