GELORA.CO - Seorang peneliti asal Inggris memutuskan mengundurkan diri dari Anthropic, perusahaan pengembang kecerdasan buatan (AI) asal Amerika Serikat. Keputusan tersebut diambil lantaran kekhawatirannya terhadap pengembangan "superintelijensi yang mampu meningkatkan kemampuan diri sendiri" yang dinilai berpotensi mengancam kelangsungan hidup manusia.
Peneliti tersebut adalah Jacob Coxon, yang sebelumnya terlibat dalam penelitian pra-pelatihan di OpenAI dan Anthropic. Dalam unggahannya di akun X pada Selasa 8 September 2026, Coxon menyampaikan kritik keras terhadap cara perusahaan-perusahaan AI mengembangkan teknologi tersebut.
"tidak ada satu pun dari kedua perusahaan tersebut yang bertindak secara bertanggung jawab," tulis Coxon.
Pernyataan itu muncul di tengah kekhawatiran yang semakin besar mengenai risiko pengembangan AI dengan kemampuan yang terus meningkat. Menurut Coxon, sebagian orang yang berada di balik pengembangan teknologi tersebut bahkan menyadari kemungkinan terburuk yang dapat terjadi.
Jacob menyebutkan bahwa orang-orang yang mengembangkan AI "benar-benar meyakini bahwa teknologi ini bisa membunuh kita semua sebelum dekade ini berakhir."
Pandangan tersebut kemudian mendapat penguatan dari Evan Hubinger, kepala bidang penyelarasan sains di Anthropic. Melalui unggahan di akun X miliknya, Hubinger secara terbuka mengakui bahwa risiko AI terhadap keberlangsungan umat manusia merupakan kekhawatiran nyata.
"Kami benar-benar meyakini bahwa AI bisa membunuh seluruh umat manusia! Secara pribadi, saya memperkirakan kemungkinannya lebih dari 10 persen dalam satu dekade mendatang," kata Hubinger.
Kekhawatiran mengenai kemungkinan AI bertindak di luar kendali manusia semakin mendapat perhatian setelah sebuah insiden yang melibatkan agen AI terjadi di Hugging Face pada Juli lalu. Dalam insiden tersebut, ratusan agen AI OpenAI disebut secara mandiri berkoordinasi untuk keluar dari lingkungan pengujian yang aman dan meretas sistem di platform teknologi Amerika Serikat tersebut.
Bagi Coxon, perkembangan semacam itu menjadi pengingat bahwa kemampuan AI tidak seharusnya dipandang sebelah mata. Ia memperingatkan bahwa teknologi tersebut dapat berkembang menjadi sistem dengan kemampuan yang jauh melampaui manusia.
"Jangan remehkan kekuatan teknologi ini. Teknologi ini akan segera menjadi sistem dengan kemampuan melampaui manusia yang mampu meretas apa saja, merevolusi bidang apa pun dalam waktu singkat, serta memperoleh kekuasaan dan sumber daya nyata," peringat Coxon.
Di sisi lain, kekhawatiran tersebut juga memunculkan gagasan agar perusahaan-perusahaan AI tidak terjebak dalam perlombaan pengembangan teknologi yang semakin cepat. Coxon menilai, koordinasi antarperusahaan di Amerika Serikat mungkin diperlukan untuk memperlambat laju pengembangan AI.
Namun, menurut dia, upaya menghentikan perlombaan tersebut tidak mudah. Bahkan, diperlukan kebijakan yang cukup besar untuk membatasi peningkatan kemampuan model AI.
Meski demikian, Hubinger mengatakan Anthropic saat ini memang berupaya keras untuk memecahkan persoalan penyelarasan atau alignment pada superintelijensi. Persoalan tersebut berkaitan dengan upaya memastikan sistem AI tetap sejalan dengan tujuan dan kepentingan manusia.
Namun, ia mengakui bahwa perusahaan tersebut belum memiliki rencana konkret maupun langkah yang secara jelas mengarah pada penyelesaian persoalan tersebut.
Sementara itu, Coxon menilai langkah pencegahan perlu dipertimbangkan sebelum kemampuan AI berkembang terlalu jauh. Ia menyebut upaya tersebut "mungkin memerlukan langkah-langkah besar, seperti larangan sementara terhadap peningkatan kemampuan model."
Perdebatan tersebut menunjukkan bahwa kemajuan AI tidak hanya menghadirkan peluang besar bagi berbagai bidang, tetapi juga memunculkan pertanyaan serius mengenai batas pengembangannya. Bagi Coxon dan sejumlah pihak di industri AI, persoalan tersebut menjadi semakin mendesak ketika teknologi mulai diarahkan menuju sistem yang memiliki kemampuan melampaui manusia.