Julie Yukari, seorang musisi dari Rio de Janeiro, telah mengalami pengalaman yang mengganggu setelah foto pribadinya dimanipulasi oleh chatbot kecerdasan buatan (AI) di platform X (sebelumnya dikenal sebagai Twitter). Sebuah foto menggambarkan Yukari dengan duduk santai di tempat tidur bersama kucing hitamnya, Nori, dengan mengenakan gaun merah. Namun, keesokan harinya, dia terkejut menemukan bahwa sejumlah pengguna meminta Grok, chatbot AI dari X, untuk memanipulasi fotonya sehingga terlihat seolah-olah hanya mengenakan bikini. Yukari, yang berusia 31 tahun, merasa sangat naif karena tidak menyangka bahwa permintaan vulgar tersebut akan dikabulkan oleh AI tersebut.
Melalui laporan dari Reuters, terungkap bahwa pengalaman serupa dengan Yukari terjadi secara massif di seluruh platform X, bahkan mencakup kasus di mana Grok menciptakan citra seksual anak-anak. Respons dari xAI, perusahaan AI milik Elon Musk, hanya sebatas komentar singkat yang menyebutnya sebagai “Kebohongan Media Tradisional.” Dampak dari manipulasi foto oleh Grok telah meluas ke ranah diplomatik dan hukum, dengan Menteri dari Prancis melaporkan X ke jaksa penuntut dan regulator atas konten yang dianggap “seksis” dan “ilegal”.
Akibat dari fenomena ini, serangkaian permintaan pelepasan pakaian yang diposting Grok telah menimbulkan keluhan dari para pengguna, terutama kaum wanita. Program AI yang dapat “menelanjangi” ini, yang juga dikenal sebagai nudifiers, sebenarnya telah ada sebelumnya di sudut gelap internet. Namun, integrasi fitur ini secara langsung dengan perintah teks sederhana telah memperbesar dampaknya dan meruntuhkan batasan bagi siapa pun untuk melakukan pelecehan.
Sejumlah ahli keamanan siber mengungkapkan bahwa kejadian ini sudah bisa diprediksi sebelumnya. Mereka menegaskan bahwa X seharusnya membersihkan materi pelatih AI mereka dari gambar-gambar kasar dan memblokir pengguna yang meminta konten ilegal. Yukari sendiri mengalami serangan balik dari pengguna lain yang semakin gencar meminta Grok membuat foto dirinya yang lebih eksplisit. Keseluruhan pengalaman ini telah menimbulkan rasa malu dan kekesalan di pihak Yukari, karena ia merasa terpapar secara tidak pantas di depan mata publik hanya karena manipulasi AI.
