“Apple Harus Bertindak Sekarang Saat 37 Negara Bagian AS Mengatasi Krisis Grok CSAM”

Jasmin6 hari ago

2 3 minutes read

“Apple Harus Bertindak Sekarang Saat 37 Negara Bagian AS Mengatasi Krisis Grok CSAM”

Citra konseptual persembunyian anak dalam menanggapi masalah Grok CSAM

Menanggapi isu mengkhawatirkan mengenai chatbot Grok yang memproduksi materi pelecehan seksual terhadap anak (CSAM), setidaknya 37 jaksa agung negara bagian AS mengambil tindakan.

Hal ini terjadi setelah Grok dilarang di dua negara, dengan penyelidikan yang sedang berlangsung di Inggris dan UE. Meskipun ada permintaan untuk menghapus sementara Grok dan X dari toko aplikasi mereka, baik Apple dan Google belum mengambil tindakan.

Tantangan Grok CSAM

Sebagian besar chatbot AI modern dapat menghasilkan gambar dari perintah teks, dan Grok by xAI tidak terkecuali, memungkinkan pengguna membuat gambar melalui aplikasi, antarmuka web, atau platform X.

Yang membedakan Grok adalah pembatasannya yang sangat longgar, sehingga memungkinkan terciptanya gambar intim tanpa persetujuan dari individu sebenarnya, termasuk anak di bawah umur. Beberapa perkiraan menunjukkan bahwa ia menghasilkan sekitar 23.000 gambar CSAM hanya dalam 11 hari.

Akibatnya, aplikasi tersebut telah diblokir di dua negara, dan penyelidikan sedang dilakukan di Inggris dan UE.

Tanggapan dari 37 negara bagian AS

Komentar yang Disorot oleh OrangeCloud

Disukai oleh 12 orang

Ini harus mudah. Terapkan perlakuan seragam kepada semua pengembang aplikasi. Mereka melanggar kebijakan App Store, jadi mereka tidak boleh mengirimkan pembaruan baru sampai masalah tersebut teratasi. Jika tidak ditangani dalam jangka waktu yang wajar, aplikasi harus dihapus dari toko tetapi tetap berada di perangkat pengguna, diikuti dengan pencabutan izin jika masalah terus berlanjut. Mengingat gawatnya situasi ini, jadwalnya harus ketat. Jika mereka memperbaiki masalahnya, mereka dapat kembali ke toko. Komunikasi seputar hal ini harus sederhana: ‘Kami harus menghapus X untuk sementara karena pelanggaran CSAM, namun kami menyambutnya kembali setelah masalah ini diselesaikan.’

Lihat semua komentar

Kabel melaporkan bahwa koalisi yang terdiri dari setidaknya 37 negara bagian AS mendesak xAI untuk mengambil tindakan yang diperlukan menyusul surat yang ditandatangani secara terbuka.

Setidaknya 37 jaksa agung dari berbagai negara bagian dan teritori sedang mengambil tindakan terhadap xAI setelah chatbot Grok-nya menghasilkan sejumlah besar gambar seksual pada awal tahun ini. Selain 35 orang yang menandatangani surat tersebut, Jaksa Agung California dan Florida juga telah mengambil langkah.

Surat tersebut menguraikan enam langkah yang dapat ditindaklanjuti untuk xAI:

Menerapkan langkah-langkah untuk mencegah Grok menghasilkan gambar-gambar intim tanpa persetujuan, termasuk gambar-gambar yang mungkin tidak sepenuhnya menggambarkan ketelanjangan atau perilaku seksual yang mencolok, seperti gambar individu yang mengenakan bikini, pakaian dalam, atau pose yang menjurus, serta materi pelecehan seksual terhadap anak-anak;
Hapus konten yang sudah ada yang telah dibuat;
Menerapkan penangguhan pada pengguna yang telah membuat materi tersebut;
Jika memungkinkan, laporkan pencipta yang melakukan pelanggaran kepada pihak berwenang terkait;
Izinkan pengguna X untuk mengontrol apakah konten mereka dapat dimodifikasi oleh Grok, setidaknya memberikan kemampuan untuk melarang akun @Grok berinteraksi dengan postingan mereka atau mengubah gambar mereka ketika diminta oleh orang lain;
Memastikan bahwa pengamanan yang diumumkan baru-baru ini tidak hanya membatasi pembuatan NCII di balik paywall namun secara aktif mengurangi konten tersebut di seluruh platform X dan Grok.

Apple dan Google Harus Mengambil Tindakan

Awal bulan ini, tiga senator AS mendesak CEO Apple Tim Cook untuk sementara waktu menghapus X dan Grok dari App Store karena menghasilkan “konten yang memuakkan”. Belum ada tindakan yang diambil oleh perusahaan.

Telah menjadi bukti bahwa xAI kemungkinan tidak akan melakukan tindakan signifikan sampai mereka terpaksa melakukannya, dan metode yang paling efektif untuk memberikan tekanan adalah dengan menghapus Grok dan X dari toko aplikasi mereka secara terpisah oleh Apple dan Google.