BARU-BARU ini, United Kingdom (UK) telah membenarkan syarikat teknologi dan agensi perlindungan kanak-kanak mengenal pasti platform dan Chatbot janaan kecerdasan buatan (AI) yang boleh menghasilkan kandungan penderaan seksual kanak-kanak.
Tindakan itu dibuat selepas laporan keselamatan mendedahkan bahawa bahan melibatkan penderaan seksual kanak-kanak yang dijana AI meningkat lebih dua kali ganda pada tahun ini iaitu 426 kes berbanding 199 kes pada 2024.
Menurut laporan The Guardian, projek tersebut dilakukan bersama agensi keselamatan kanak-kanak antarabangsa sebagai langkah mengekang jenayah siber yang semakin canggih.
Kerajaan akan melantik syarikat dicadangkan oleh organisasi keselamatan kanak-kanak bagi memeriksa model dan platform yang menghasilkan imej janaan berbentuk penderaan seksual terhadap golongan itu.
Ahli Parlimen Vale of Glamorgan, Kanishka Narayan berkata, tindakan tegas perlu diambil bagi memastikan penyalahgunaan kandungan AI dapat dihentikan.
“Tindakan awal perlu dilakukan supaya perkara ini tidak terus merebak (teruk).
“Kita boleh melihat risiko dalam model AI dan mengatasinya dengan lebih baik.
“Apabila saya mendengar tentang kanak-kanak yang mengalami pemerasan dalam talian, ia menyebabkan kemarahan melampau dalam diri saya dan kemarahan ini juga wajar dalam kalangan ibu bapa,” katanya.
Sebelum ini, banyak syarikat menggunakan sistem pengesanan berasaskan tanda digital (hash) untuk mengenal pasti imej terlarang.
Namun, kaedah tersebut kurang berkesan apabila pelaku mula memanipulasi gambar agar tidak lagi sepadan dengan pangkalan data asal.
Disebabkan itu, alat AI baharu dibangunkan bagi mengatasi kelemahan terbabit. Ia bukan saja dapat mengimbas kesamaan imej, malah menilai konteks visual dan corak kandungan dengan lebih mendalam.
Inisiatif tersebut muncul susulan kebimbangan masyarakat terhadap penyalahgunaan teknologi generatif seperti deepfake dan model imej AI yang boleh mencipta semula wajah atau tubuh kanak-kanak tanpa izin.
Pihak berkuasa mendapati semakin banyak kes imej janaan (AI-generated child abuse material) dikesan di pelbagai platform dalam talian, sekali gus menjadi cabaran baharu.
Menurut Ketua Eksekutif Yayasan Pengawasan Internet (IWF), Kerry Smith, kanak-kanak perempuan menjadi sasaran utama apabila mencatatkan 94 peratus imej AI palsu pada tahun ini.
Manakala peningkatan drastik melibatkan bayi baru lahir iaitu 95 peratus pada tahun ini berbanding lima peratus pada 2024.
Katanya, mengenal pasti produk AI (kandungan) dalam talian amat penting bagi melindungi keselamatan kanak-kanak daripada pihak tidak bertanggungjawab.
“Laporan mengenai bahan penyalahgunaan yang dijana AI di laman web meningkat lebih dua kali ganda setakat tahun ini, di mana ia bentuk penyalahgunaan yang sangat serius.
“Sebagai contoh, peningkatan tersebut dapat dilihat daripada 2,621 imej dan video kepada 3,086.
“Pengesahan ini dapat melindungi mangsa dengan beberapa klik dan tidak memberi peluang kepada penjenayah untuk mengambil kesempatan,” katanya.
Smith turut meluahkan kebimbangan terhadap penggunaan Chatbot yang membuatkan kanak-kanak kurang berinteraksi dengan golongan dewasa atau berkomunikasi secara nyata.
“Mereka lebih banyak bercerita dengan AI berbanding meluahkan perasaan kepada ibu bapa atau golongan yang lebih dewasa.
“Pengesahan kandungan AI ini bukan sahaja dapat melindungi keselamatan kanak-kanak daripada dibuli dalam talian.
“Malah, ia turut menyelamatkan golongan dewasa daripada terjebak dengan jenayah
imej AI palsu.” ujarnya.
