EU menyediakan pembiayaan £1.8 juta untuk penciptaan aplikasi baharu yang bertujuan untuk mengurangkan tontonan kandungan penderaan seksual kanak-kanak di Internet

Ia akan diuji ke atas sukarelawan yang telah mendapatkan bantuan kerana tarikan mereka kepada imej terlarang untuk memastikan mereka tidak dapat mengalah kepada keinginan mereka.

Apabila dipasang pada peranti, seperti telefon, program ini akan mengecam dan menghalang paparan imej dan video yang menyinggung perasaan.

Ia dipercayai akan membantu dalam mengurangkan "permintaan yang semakin meningkat" untuk gambar penderaan kanak-kanak.

Organisasi dari EU dan UK telah bergabung tenaga dalam projek Protech.

Apl Salus projek itu, yang menggunakan kecerdasan buatan untuk mengenal pasti maklumat yang berpotensi lucah dan menghalang pengguna daripada melihatnya, direka bentuk untuk beroperasi dalam masa nyata.

Internet Watch Foundation, sebuah organisasi yang berusaha mencari, membenderakan dan mengalih keluar bahan penderaan kanak-kanak, akan membantu melatih teknologi AI yang dibangunkan oleh syarikat UK SafeToNet.

Tom Farrell dari SafeToNet, yang bekerja selama 19 tahun dalam penguatkuasaan undang-undang, memberitahu BBC aplikasi itu tidak bertujuan untuk menjadi alat untuk melaporkan pengguna kepada polis: "Orang yang secara sukarela ingin menghentikan diri mereka melihat bahan penderaan seksual kanak-kanak dengan jelas tidak akan Jangan gunakan penyelesaian sedemikian jika mereka percaya bahawa ia akan melaporkan mereka kepada penguatkuasa undang-undang."

Pengiklanan

'Bantuan praktikal'

Sukarelawan yang memuat turun aplikasi akan diambil melalui organisasi yang bekerja dengan individu yang mencari bantuan kerana mereka tertarik dengan imej penderaan kanak-kanak dalam talian.

Salah satu organisasi tersebut ialah badan amal British, Lucy Faithfull Foundation, yang mengendalikan talian bantuan bagi mereka yang bimbang mereka mungkin memuat turun imej yang menyalahi undang-undang dan ingin berhenti. Itu termasuk sebilangan besar orang yang mengaku sebagai pedofil, sebahagian daripada mereka telah disabitkan kesalahan.

Donald Findlater dari yayasan itu, berkata alat seperti aplikasi baharu itu boleh membantu individu mengawal tingkah laku mereka, sambil menambah: "ia adalah bantuan praktikal kepada orang yang mengenali kelemahan dalam diri mereka sendiri".

Ahli projek Protech berharap ia dapat membendung "permintaan yang semakin meningkat untuk bahan penderaan seksual kanak-kanak dalam talian".

Jumlah tertinggi baharu sebanyak 30,925 kesalahan yang melibatkan pemilikan dan perkongsian imej tidak senonoh kanak-kanak telah dilakukan pada tahun 2021/2022, menurut NSPCC.

Tahun lepas a melaporkan oleh Yayasan Polis thinktank berkata bahawa jumlah kesalahan penderaan seksual kanak-kanak dalam talian telah "semata-mata mengatasi keupayaan agensi penguatkuasaan undang-undang, di peringkat antarabangsa, untuk bertindak balas".

Ahli projek yang bercakap dengan BBC mencadangkan bahawa kepolisan sahaja tidak akan menghalang orang memuat turun imej.

Encik Farrell berhujah bahawa UK telah menahan lebih ramai individu kerana memiliki bahan penderaan seksual kanak-kanak berbanding negara lain di dunia sejak 2014 dan dalam proses itu telah mengenal pasti beberapa pesalah yang sangat serius.

Tetapi berjuta-juta orang masih melihat imej

"Jadi penahanan tidak akan menjadi penyelesaian. Kami fikir kami boleh bekerja di bahagian pencegahan dan mengurangkan permintaan dan mengurangkan kebolehcapaian."

'Pentas juruterbang'

Banyak butiran operasi apl masih perlu diselesaikan. Tiada AI yang sempurna dan keseimbangan perlu dicapai antara penyekatan berlebihan - yang akan menyukarkan penggunaan peranti yang sah - dan penyekatan yang kurang - yang gagal mengesan banyak imej penyalahgunaan.

Encik Farrell berkata aplikasi itu akan diuji dalam "peringkat perintis" di lima negara - Jerman, Belanda, Belgium, Republik Ireland dan UK dengan sekurang-kurangnya 180 pengguna dalam tempoh 11 bulan.

Dan pakar yang tidak terlibat dalam projek itu berpendapat bahawa idea itu menjanjikan.

Profesor Belinda Winder dari Nottingham Trent University berkata ia adalah perkembangan yang dialu-alukan yang boleh menyokong orang yang "ingin dibantu untuk menahan dorongan tidak sihat mereka, dan yang akan mendapat manfaat daripada jaringan keselamatan ini".

Seperti semua alat teknologi baharu, syaitan akan menjelaskan secara terperinci dan Prof Winder mempunyai soalan tentang cara ia berfungsi dalam amalan tetapi berkata: "Ia adalah langkah positif ke arah yang betul."

Kongsi artikel ini: