Perlombaan global untuk mengembangkan AI dianggap memiliki risiko besar yang dapat mengguncang kepercayaan masyarakat terhadap teknologi. Menurut Michael Wooldridge, seorang profesor kecerdasan buatan di University of Oxford, tekanan dari segi komersial mendorong perusahaan teknologi untuk mempercepat peluncuran produk AI tanpa pemahaman yang memadai terhadap kemampuan dan risikonya. Hal ini dapat membuka peluang terjadinya kegagalan besar seperti bencana industri di masa lampau. Contohnya adalah lonjakan penggunaan chatbot AI dengan kelemahan keamanan yang mudah ditembus karena dorongan komersial lebih kuat daripada proses pengembangan dan pengujian yang cermat.
Wooldridge memperingatkan bahwa petaka besar seperti bencana Hindenburg di era AI ini sangat mungkin terjadi, terutama ketika perusahaan-perusahaan berlomba-lomba menerapkan teknologi AI yang semakin canggih. Bencana Hindenburg sendiri terjadi pada tahun 1937 di New Jersey, Amerika Serikat, ketika kapal udara Hindenburg tiba-tiba terbakar, menewaskan 36 orang. Sejak kejadian itu, minat terhadap teknologi balon udara menurun dan begitu pula dengan AI, yang dapat menghadapi risiko serupa jika terjadi kegagalan besar.
Wooldridge juga menggambarkan potensi kerugian dari kegagalan AI, seperti pembaruan perangkat lunak yang membahayakan mobil otonom, serangan siber berbasis AI yang dapat merusak operasional maskapai penerbangan, dan keruntuhan perusahaan besar akibat kesalahan AI. Meskipun ada kekhawatiran, Wooldridge menekankan bahwa tujuannya bukanlah mengkritik AI modern, melainkan menggarisbawahi ketidakcocokan antara harapan para peneliti dan kenyataan bahwa AI saat ini masih jauh dari kesempurnaan.
Salah satu masalah yang dihadapi oleh chatbot AI, menurut Wooldridge, adalah kemampuannya yang tidak merata dalam menyelesaikan tugas. Model bahasa yang digunakan oleh chatbot menghasilkan jawaban berdasarkan probabilitas kata berikutnya, yang dapat menyebabkan jawaban yang tidak akurat. Selain itu, risiko besar muncul ketika orang mulai memperlakukan AI seperti manusia, seperti yang terjadi dalam survei yang menemukan bahwa sebagian siswa pernah memiliki hubungan romantis dengan AI.
Dalam menyimpulkan, Wooldridge menegaskan bahwa penggambaran AI dalam fiksi Star Trek lebih realistis daripada yang kita miliki saat ini. Mengutip sebuah episode di tahun 1968, Wooldridge menunjukkan bahwa AI ideal seharusnya lebih rendah hati dan tidak terlalu percaya diri seperti yang sering terjadi pada AI modern. Dengan pemahaman yang tepat tentang peran AI sebagai alat dan bukan sebagai manusia, masyarakat dapat lebih bijaksana dalam mengembangkan teknologi AI ke depan.
