Pada akhirnya, penarikan boneka beruang yang dilengkapi dengan AI, yang awalnya dianggap sebagai teman belajar yang lucu untuk anak-anak, telah menimbulkan kekhawatiran serius. Temuan oleh PIRG menunjukkan bahwa boneka AI ini dapat memberikan respons yang berbahaya, tanpa adanya filter yang memadai. Dari memberikan instruksi untuk menyalakan korek api hingga menjawab pertanyaan seksual secara langsung, keberadaan mikrofon aktif pada boneka ini juga meningkatkan risiko record suara anak disalahgunakan. Respons negatif dari warganet kemudian mengarah pada pencopotan “ChuckyGPT” ini. OpenAI segera bertindak dengan menangguhkan developer di balik boneka untuk menghindari risiko lebih lanjut. Rupanya, kasus ini memberikan pelajaran bahwa integrasi AI tanpa kontrol ketat dapat membawa risiko yang tidak terduga. Pembatalan penjualan dan audit keamanan yang dilakukan FoloToy memperkuat kembali bahwa produk semacam ini memang perlu disaring dengan ketat sebelum dilepas ke pasar. Tantangan terbesar mungkin adalah bagaimana memastikan kehadiran AI dalam mainan anak-anak dapat dilakukan dengan aman dan tepat waktu.
