Menurut Ketua Lembaga Riset Keamanan Siber dan Komunikasi CISSReC, Pratama Persadha, pengguna perlu mengambil langkah-langkah untuk melindungi diri dari manipulasi foto cabul yang dilakukan oleh Grok AI yang sedang populer saat ini. Pratama mengatakan bahwa pengguna dapat mengatur privasi di platform media sosial untuk mengontrol siapa yang dapat melihat foto mereka, yang akan mengurangi risiko eksploitasi oleh Grok AI atau sistem serupa. Selain itu, ia juga menyarankan pengguna untuk tidak membagikan foto sangat pribadi atau sensitif secara publik untuk mengurangi risiko dicuri oleh model AI. Secara teknis, Pratama merekomendasikan pengguna untuk menggunakan alat-alat proteksi identitas atau metadata yang dapat mempersulit model AI dalam mengenali fitur wajah secara langsung.
Meskipun langkah-langkah tersebut dapat memberikan lapisan perlindungan, Pratama menekankan bahwa tantangan sebenarnya ada pada platform dan regulator untuk mengembangkan sistem yang lebih bertanggung jawab dan melindungi terhadap eksploitasi identitas digital di era AI. Sebelumnya, Grok AI telah dikritik karena menghasilkan dan mempublikasikan gambar seksual yang diminta oleh pengguna di platform X, termasuk gambar yang menampilkan perempuan dan bahkan anak-anak dalam keadaan sugestif. Regulator di berbagai negara, seperti Inggris, Uni Eropa, India, Prancis, dan Malaysia, telah mengecam atau membuka investigasi terhadap penggunaan Grok AI.
Dari sisi keamanan siber, Pratama melihat masalah Grok AI sebagai ancaman terhadap privasi, consent, dan identitas digital individu. Ia menyatakan bahwa penggunaan AI untuk menghasilkan konten yang melanggar hak dan kehormatan seseorang dapat mengarah pada eksploitasi digital, intimidasi berbasis gender, dan bahkan penyebaran materi ilegal seperti eksploitasi seksual anak. Secara teknis, Pratama menyoroti bahwa sistem pengendalian konten pada Grok AI gagal memfilter permintaan konten eksplisit seksual yang melibatkan identitas pengguna nyata karena faktor desain dan kebijakan yang tidak memadai. Oleh karena itu, perlu upaya lebih lanjut untuk mengatasi masalah ini dan melindungi pengguna dari konsekuensi negatif penggunaan AI dalam konteks ini.
