Pengeditan wajah anak dengan menggunakan teknologi kecerdasan buatan (AI) untuk konten dance di media sosial telah menjadi tren yang mendapatkan perhatian. Pakar menyatakan bahwa tren ini dapat membahayakan keamanan data dan privasi anak. Ketua Program Studi Kecerdasan Buatan IPB University, Yeni Herdiyani, menjelaskan bahwa teknologi AI yang digunakan saat ini adalah generative AI (Gen-AI) yang mampu menciptakan gambar, video, teks, dan suara berdasarkan model dan data yang tersedia.
Bayi dan dance adalah contoh model yang dapat dihasilkan oleh algoritma AI, bahkan dengan informasi foto riil. Namun, penggunaan wajah anak sebagai data AI dianggap sangat rentan terhadap kejahatan digital karena data yang diunggah ke ruang publik dapat disalahgunakan oleh pihak yang tidak bertanggung jawab.
Yeni menekankan pentingnya kesadaran orang tua akan risiko digital sebelum mengunggah atau mengedit wajah anak menggunakan AI, termasuk keamanan data, perlindungan privasi, dan potensi penyalahgunaan data. Selain itu, pengguna perlu memahami bahwa data yang diberikan kepada algoritma AI dapat digunakan untuk melatih model dan muncul kembali dalam bentuk atau konteks lain.
Untuk menghadapi tren ini, Yeni menekankan perlunya literasi digital di masyarakat, dan IPB University telah berkomitmen untuk memberikan materi etika dan tanggung jawab penggunaan teknologi kepada mahasiswa baru melalui perkuliahan berpikir komputasional. Upaya ini diharapkan dapat membentuk masyarakat yang lebih kritis dan bertanggung jawab dalam memanfaatkan teknologi AI.
