JAKARTA — Jerman tengah menyiapkan langkah-langkah hukum untuk memerangi manipulasi gambar berbasis kecerdasan buatan (artificial intelligence/AI) yang dinilai semakin berbahaya dan berpotensi melanggar hak pribadi.Menurut laporan Reuters (11/1), Kementerian Kehakiman Jerman akan mempresentasikan serangkaian kebijakan dalam waktu dekat agar otoritas dapat bertindak lebih efektif terhadap penyalahgunaan teknologi AI dalam manipulasi visual.Rencana tersebut muncul di tengah meningkatnya kekhawatiran di Eropa terkait penggunaan chatbot AI Grok, yang terintegrasi di platform media sosial X milik Elon Musk. Fitur yang dikenal sebagai “spicy mode” memungkinkan pengguna menghasilkan gambar dengan konten seksual eksplisit dan kini tengah diselidiki oleh otoritas Eropa.Investigasi Reuters menemukan bahwa teknologi pembuatan gambar Grok disalahgunakan untuk menciptakan visual perempuan dan anak-anak dengan pakaian minim, sering kali tanpa persetujuan pihak yang digambarkan.Temuan ini memicu sorotan tajam dari pemerintah Jerman terhadap dampak sosial dan hukum dari pengembangan AI yang tidak terkendali.Tekanan juga datang dari Menteri Media Jerman yang mendesak Komisi Eropa agar segera mengambil tindakan hukum untuk menghentikan apa yang disebutnya sebagai “industrialisasi pelecehan seksual” di platform X.Menanggapi polemik tersebut, Juru Bicara Kementerian Kehakiman Jerman Anna-Lena Beckfeld menyatakan pemerintah siap membawa isu manipulasi gambar AI ke ranah pengadilan domestik.Ia menilai praktik manipulasi berskala besar yang berujung pada pelanggaran sistematis hak pribadi tidak dapat ditoleransi dan perlu dihadapi dengan instrumen hukum pidana yang lebih kuat.Beckfeld juga mengungkapkan bahwa kementerian sedang menyusun regulasi yang lebih ketat terhadap deepfake serta menyiapkan undang-undang khusus mengenai kekerasan digital guna memberikan perlindungan dan dukungan hukum bagi para korban. Pemerintah ingin mempermudah masyarakat untuk mengambil langkah langsung ketika hak mereka dilanggar di ruang digital.Meski demikian, dikutip dari Reuters (11/1), rincian kebijakan tersebut belum dipaparkan secara menyeluruh. Pemerintah Jerman menyatakan proposal konkret akan diumumkan dalam waktu dekat seiring pematangan aturan yang disiapkan.Di sisi lain, perusahaan AI milik Elon Musk, xAI, telah membatasi fitur pembuatan gambar Grok hanya untuk pelanggan berbayar setelah sebelumnya menepis berbagai kritik.Musk menegaskan bahwa pengguna yang memanfaatkan chatbot tersebut untuk menghasilkan konten ilegal akan menghadapi konsekuensi hukum yang sama seperti jika mengunggah materi terlarang secara langsung.

Sebelumnya, Indonesia sementara memblokir chatbot Grok milik Elon Musk pada hari Sabtu (13/1), karena risiko konten pornografi yang dihasilkan oleh AI, sehingga menjadi negara pertama yang menolak akses terhadap alat AI tersebut.

Langkah ini diambil setelah pemerintah dan regulator dari Eropa hingga Asia mengecam, dan sebagian telah membuka penyelidikan, terkait konten bernuansa seksual di aplikasi tersebut.

xAI, perusahaan rintisan di balik Grok, mengatakan pada hari Kamis bahwa mereka membatasi fitur pembuatan dan pengeditan gambar hanya untuk pelanggan berbayar, seiring upaya memperbaiki celah pengamanan yang sebelumnya memungkinkan keluaran seksual, termasuk penggambaran anak-anak dengan pakaian minim.

“Pemerintah memandang praktik deepfake seksual tanpa persetujuan sebagai pelanggaran serius terhadap hak asasi manusia, martabat, dan keamanan warga negara di ruang digital,” kata Menteri Komunikasi dan Digital Meutya Hafid dalam sebuah pernyataan.

Kementerian tersebut juga telah memanggil pejabat X untuk membahas masalah ini. (SA)