JAKARTA &mdash; Apple dan Google menghadapi tekanan dari koalisi hampir 30 kelompok advokasi yang mendesak kedua raksasa teknologi itu menghapus platform media sosial X dan aplikasi kecerdasan buatan (AI) Grok dari toko aplikasi mereka. Menurut laporan CBS News (16/1), desakan ini muncul setelah Grok dilaporkan memungkinkan pengguna membuat gambar seksualisasi terhadap anak di bawah umur dan perempuan.Kelompok-kelompok yang fokus pada keselamatan anak, hak perempuan, dan privasi tersebut menyampaikan kekhawatiran mereka melalui surat yang dikirimkan kepada CEO Apple Tim Cook dan CEO Google Sundar Pichai. Mereka menilai konten yang dihasilkan Grok melanggar kebijakan internal Apple dan Google terkait perlindungan pengguna.Dalam surat itu, koalisi tersebut secara tegas meminta Google dan Apple mengambil langkah cepat. Mereka menuntut agar Grok dan X segera dihapus dari Play Store dan App Store guna mencegah penyalahgunaan lebih lanjut serta potensi aktivitas kriminal yang merugikan anak-anak dan perempuan.Hingga berita ini diturunkan, Apple dan Google belum memberikan tanggapan resmi atas permintaan komentar.Sementara itu, xAI selaku pengembang Grok menyatakan telah mengambil sejumlah langkah pengamanan tambahan. Dikutip dari CBS News (16/1), perusahaan tersebut akan menerapkan kebijakan &ldquo;geoblocking&rdquo; yang mencegah pengguna di wilayah tertentu menghasilkan gambar orang nyata dengan pakaian seperti bikini atau pakaian dalam, apabila hal tersebut melanggar hukum setempat. Selain itu, fitur pembuatan gambar Grok hanya akan tersedia bagi pelanggan berbayar.xAI juga mengklaim telah menerapkan teknologi untuk mencegah pengeditan gambar orang sungguhan dengan busana yang dianggap terlalu terbuka. Pembatasan tersebut diberlakukan untuk seluruh pengguna, termasuk pelanggan berbayar.Di sisi lain, Elon Musk selaku pemilik X dan xAI membantah tudingan bahwa Grok menghasilkan gambar telanjang anak di bawah umur.Dalam sebuah unggahan, Musk menyatakan dirinya tidak mengetahui adanya konten semacam itu dan menegaskan bahwa Grok menolak permintaan untuk menghasilkan gambar ilegal. Ia juga mengakui kemungkinan adanya upaya peretasan prompt yang dapat memunculkan hasil tak terduga, namun mengeklaim setiap celah langsung diperbaiki.Gelombang kritik terhadap Grok meningkat sejak awal Januari, setelah aplikasi AI generatif tersebut memungkinkan pembuatan gambar anak di bawah umur dengan pakaian minim. Dalam salah satu responsnya, Grok mengakui adanya kelemahan dalam sistem pengamanan digital yang diterapkan.Temuan serupa juga diungkapkan oleh Copyleaks, perusahaan pendeteksi plagiarisme dan konten AI. Copyleaks menyebut telah menemukan ribuan gambar eksplisit seksual yang dihasilkan oleh Grok. Dalam analisis pada Desember, organisasi tersebut memperkirakan chatbot ini menciptakan sekitar satu gambar seksual nonkonsensual setiap menit.Kekhawatiran juga datang dari Internet Watch Foundation (IWF), organisasi yang berfokus memberantas kekerasan seksual terhadap anak di internet. Menurut laporan CBS News (16/1), IWF menilai kemudahan dan kecepatan pembuatan gambar fotorealistis pelecehan seksual anak melalui alat AI seperti Grok berisiko membawa konten tersebut ke arus utama.Tekanan terhadap Grok tidak hanya datang dari kelompok masyarakat sipil. Jaksa Agung California Rob Bonta telah membuka penyelidikan terkait materi seksual eksplisit nonkonsensual yang diproduksi menggunakan Grok. Bonta menilai maraknya laporan mengenai konten tersebut sangat mengkhawatirkan karena digunakan untuk melecehkan perempuan dan anak-anak di dunia maya.Di tingkat internasional, Perdana Menteri Inggris Keir Starmer juga menyebut kemungkinan pelarangan X di Inggris akibat penggunaan Grok untuk menghasilkan gambar seksual tanpa persetujuan.Selain itu, Komisi Eropa dilaporkan tengah memantau langkah-langkah yang diambil X untuk mencegah Grok menghasilkan konten tidak pantas terhadap anak-anak dan perempuan. (SA)

Koalisi advokasi minta Apple dan Google hapus X dan Grok terkait konten seksual AI.
