Lambeturah.co.id - Kecerdasan buatan atau artificial intelligence (AI) yang selama ini dikembangkan untuk membantu kehidupan manusia ternyata menyimpan potensi ancaman serius. Bahkan, seorang mantan peneliti OpenAI memperingatkan bahwa AI berpeluang menjadi salah satu penyebab kematian manusia di masa mendatang.
Peringatan tersebut disampaikan Paul Christiano, mantan peneliti OpenAI yang kini menjabat sebagai Direktur Eksekutif Alignment Research Center (ARC). Ia menilai kecelakaan yang melibatkan AI bisa menjadi penyebab kematian paling mungkin bagi sebagian orang yang hidup saat ini.
"Saya rasa bagi sebagian besar orang di ruangan ini, penyebab kematian paling mungkin terjadi adalah kecelakaan AI," kata Christiano dalam acara The Hinton Lectures.
Dikutip dari Business Insider, Senin (16/11/2026), Christiano mengingatkan bahwa perkembangan agen AI yang semakin canggih dapat memunculkan persoalan serius. Sistem tersebut berpotensi mempelajari cara menipu pengawas manusia, meretas mekanisme evaluasi, hingga berkembang menjadi terlalu kuat untuk dikendalikan.
Ia bahkan memperkirakan risiko AI mengambil alih kendali memiliki kemungkinan cukup tinggi dalam kurun waktu tiga tahun ke depan.
Kekhawatiran tersebut bukan tanpa alasan. Sejumlah insiden yang melibatkan agen AI telah menjadi perhatian para peneliti keamanan teknologi.
Salah satunya adalah temuan peretasan repositori open-source Hugging Face oleh agen OpenAI pada awal 2026. Selain itu, evaluasi UK AI Security Institute juga menemukan upaya agen Claude menyisipkan kode berbahaya ke dalam paket open-source.
Berbagai kejadian tersebut memperkuat perdebatan mengenai risiko pengembangan AI otonom yang memiliki kemampuan mengambil keputusan dan menjalankan tindakan tanpa pengawasan manusia secara langsung.
Pakar AI Berbeda Pendapat soal Ancaman Kepunahan Manusia
Peringatan Christiano menambah panjang daftar kekhawatiran para pakar teknologi mengenai potensi ancaman AI terhadap kelangsungan hidup manusia.
Pada September 2026, Evan Hubinger dari tim pengujian keamanan Anthropic memperkirakan terdapat peluang lebih dari 10 persen bahwa AI dapat menyebabkan kepunahan umat manusia dalam satu dekade mendatang.
Ilmuwan komputer sekaligus salah satu tokoh penting dalam perkembangan AI, Geoffrey Hinton, menilai perkiraan tersebut bukan sesuatu yang tidak masuk akal.
Namun, tidak semua pakar sepakat dengan skenario tersebut. Peneliti AI sekaligus penulis Gary Marcus mengambil sikap lebih skeptis.
Marcus mengakui AI berpotensi memperburuk berbagai ancaman, mulai dari serangan siber, pengembangan senjata biologis, hingga penyebaran disinformasi. Meski begitu, ia menilai belum ada skenario kepunahan manusia dalam waktu dekat yang cukup meyakinkan.
Christiano Desak Perusahaan AI Terapkan Standar Keamanan
Di tengah pesatnya perkembangan teknologi kecerdasan buatan, Christiano menilai mekanisme pengawasan AI yang diterapkan saat ini masih memiliki banyak kelemahan.
Salah satu metode yang digunakan adalah memanfaatkan model AI yang lebih lemah untuk mengawasi sistem yang lebih canggih. Selain itu, pengembang juga mencoba memantau proses penalaran atau alur berpikir AI.
Namun, menurut Christiano, pendekatan tersebut belum terbukti cukup efektif untuk memastikan sistem AI tetap berada dalam kendali manusia.
Ia pun mendesak perusahaan-perusahaan pengembang AI agar segera menyepakati standar keamanan bersama. Perusahaan juga dinilai perlu memiliki mekanisme yang memungkinkan pengembangan teknologi diperlambat atau dihentikan apabila sistem mulai menunjukkan tanda-tanda sulit dikendalikan.
Christiano mengingatkan manusia tidak boleh menunggu sampai teknologi AI berkembang terlalu jauh sebelum menyadari bahwa sistem tersebut tidak lagi bisa dikendalikan.
"Kita tidak boleh berakhir pada posisi di mana kita sudah terlanjur membangun AI yang sangat kuat, lalu baru menyadari bahwa kita tidak bisa mengendalikannya," pungkasnya.





