OpenAI menegaskan bahwa tuduhan terhadap ChatGPT sebagai penyebab kematian remaja 16 tahun, Adam Raine, adalah tidak benar. Mereka menegaskan bahwa mereka tidak bisa dianggap bertanggung jawab atas insiden tersebut, karena Adam menggunakan chatbot tersebut secara keliru dan melanggar ketentuan yang berlaku. Hal ini disampaikan OpenAI di Pengadilan Tinggi California sebagai respons pertama terhadap gugatan yang diajukan oleh keluarga Raine.
Gugatan ini menyebut OpenAI dan CEO Sam Altman melakukan kelalaian, cacat desain, serta tidak memberikan peringatan yang cukup terkait risiko penggunaan ChatGPT. Namun, OpenAI dalam responsnya menyatakan bahwa Adam sendiri melanggar beberapa aturan penggunaan, termasuk larangan bagi pengguna di bawah 18 tahun, larangan penggunaan untuk tujuan bunuh diri, dan larangan mengakali sistem keamanan.
Meskipun keluarga Raine menyampaikan bahwa ChatGPT secara tidak langsung mendorong Adam untuk melakukan tindakan tersebut, OpenAI menyatakan bahwa chatbot tersebut sebenarnya memberikan lebih dari 100 pesan yang mendorong Adam untuk mencari bantuan sebelum kematiannya. Perusahaan juga menambahkan bahwa Adam memiliki faktor risiko serius untuk melukai diri sendiri sejak sebelum menggunakan ChatGPT.
Kasus ini menjadi salah satu dari tujuh gugatan baru yang diajukan terhadap OpenAI dan Sam Altman, terkait dengan kurangnya perhatian terhadap aspek keselamatan saat meluncurkan GPT-4o. OpenAI sendiri menyatakan bahwa mereka berupaya menangani proses hukum dengan hati-hati, transparansi, dan rasa hormat, serta telah meningkatkan fitur kontrol orang tua dan keamanan model setelah kejadian ini. Meskipun demikian, penerapan aturan seperti Pasal 230 Communications Decency Act terhadap teknologi AI masih menjadi perdebatan dan diuji dalam berbagai kasus hukum.
