SAN FRANCISCO – Platform X milik Elon Musk mengumumkan langkah-langkah untuk menyekat chatbot Grok miliknya daripada menanggalkan pakaian pada imej manusia sebenar, berikutan bantahan global terhadap penjanaan foto seksual wanita dan kanak-kanak.
Pengumuman itu dibuat selepas peguam negeri California melancarkan siasatan ke atas syarikat xAI milik Musk yang merupakan pembangun Grok berhubung bahan seksual eksplisit.
Selain California, beberapa negara lain sama ada menyekat akses kepada chatbot atau melancarkan siasatan sendiri.
X berkata, pihaknya akan ‘menyekat keupayaan’ semua pengguna Grok dan X untuk mencipta imej individu memakai ‘bikini, pakaian dalam dan pakaian mencolok mata lain’ di wilayah-wilayah di mana perbuatan sedemikian menyalahi undang-undang.
“Kami telah melaksanakan langkah-langkah teknologi untuk menghalang Grok daripada membenarkan penyuntingan imej manusia sebenar dalam pakaian mendedahkan seperti bikini.
“Sekatan ini terpakai kepada semua pengguna termasuk pelanggan berbayar,” kata pasukan keselamatan X dalam satu kenyataan.
Sebagai perlindungan tambahan, penciptaan imej dan keupayaan untuk menyunting foto melalui akaun Grok X kini hanya tersedia kepada pelanggan berbayar, tambah kenyataan sama.
Suruhanjaya Eropah yang bertindak sebagai badan pengawas digital Kesatuan Eropah sebelum ini berkata, pihaknya telah mengambil maklum tentang ‘langkah tambahan yang diambil oleh X untuk menghalang Grok daripada menjana imej seksual wanita dan kanak-kanak.’
Tekanan global memuncak ke atas xAI untuk mengawal Grok selepas ciri dinamakan ‘Spicy Mode’ itu membenarkan pengguna mencipta imej palsu deepfake lucah wanita dan kanak-kanak menggunakan arahan teks mudah seperti ‘pakaikan dia bikini’ atau ‘tanggalkan pakaiannya’. – AFP
