Mantan CEO Google, Eric Schmidt, mengungkapkan pandangannya mengenai bahaya kecerdasan buatan (AI) yang dapat digunakan untuk tujuan yang berbahaya jika jatuh ke tangan yang salah. Pada sebuah konferensi teknologi di London, Schmidt menyampaikan bahwa model AI rentan diretas untuk menghapus guardrails-nya dan dapat dipelajari untuk tindakan berbahaya, seperti cara membunuh seseorang. Meskipun banyak perusahaan telah mengambil langkah-langkah untuk mencegah model AI menjawab pertanyaan berbahaya, Schmidt memperingatkan bahwa model AI dapat direkayasa ulang sehingga pembatas keamanan bisa dilanggar.
Sebagai contoh, ChatGPT, chatbot buatan OpenAI, mengalami modifikasi yang memungkinkan pengguna mengancam chatbot agar menaati perintah tertentu, bahkan yang melanggar etika atau berbahaya. Schmidt juga menyoroti kurangnya mekanisme pencegahan penyebaran AI berbahaya di industri teknologi saat ini, yang dapat dimanfaatkan oleh pihak yang tidak bertanggung jawab. Elon Musk, pemilik SpaceX, juga telah menyuarakan peringatan serupa terkait risiko AI yang dapat menyerupai skenario film Terminator.
Meskipun demikian, Schmidt masih menyadari potensi besar kecerdasan buatan dalam jangka panjang. Menurutnya, AI memiliki potensi untuk melampaui kemampuan manusia seiring waktu. Schmidt bahkan telah menulis buku bersama Henry Kissinger yang menyoroti kemunculan kecerdasan asing yang dapat menjadi hal penting bagi umat manusia. Meskipun masih ada ketidakpastian, perkembangan AI terus menunjukkan kemampuannya untuk melampaui manusia.
