Peneliti Anthropic: Kecerdasan Buatan Berpeluang Musnahkan Manusia dalam Satu Dekade

Kepanikan mengenai masa depan kecerdasan buatan kini tidak lagi datang dari kalangan pengamat luar, melainkan dari ruang-ruang riset raksasa teknologi itu sendiri. Evan Hubinger, seorang peneliti senior di Anthropic yang fokus pada penyelarasan sistem AI tingkat lanjut (AI alignment), secara terbuka memperingatkan bahwa terdapat peluang lebih dari 10 persen kecerdasan buatan super (superintelligent AI) akan memusnahkan umat manusia dalam kurun waktu sepuluh tahun ke depan.

Pernyataan mengejutkan ini diungkapkan Hubinger menyusul pengunduran diri rekan penelitinya, Jacob Coxon. Eksodus talenta keselamatan AI tersebut menyoroti kegelisahan internal di kalangan ilmuwan terkemuka bahwa perlombaan teknologi Silicon Valley kini bergerak terlalu cepat melampaui kemampuan manusia untuk mengendalikannya.

Krisis Pengendalian di Balik Ambisi Superintelijen

Dalam keterangannya di platform X, Hubinger secara gamblang menyatakan bahwa perusahaannya saat ini belum memiliki protokol yang cukup kuat untuk mengunci sistem cerdas agar tetap sejalan dengan kepentingan manusia.

"Kami benar-benar sangat meyakini bahwa AI berpotensi membunuh seluruh manusia. Secara pribadi, saya menilai peluangnya berada di atas 10 persen dalam kurun waktu satu dekade ke depan," tulis Evan Hubinger.

Ia menambahkan bahwa meski Anthropic "berupaya sebaik mungkin", perusahaan tersebut hingga saat ini belum memiliki cetak biru yang jelas untuk mengontrol superintelijen secara aman, serta belum berada di jalur yang meyakinkan untuk menemukannya sebelum sistem tersebut terealisasi.

Ancaman 'Peningkatan Rekursif' yang Tak Terbendung

Para peneliti menyoroti bahwa model AI komersial saat ini memang belum menghadirkan ancaman langsung terhadap kepunahan manusia. Namun, bahaya laten diprediksi melonjak drastis ketika sistem generasi berikutnya mulai melakukan recursive self-improvement atau peningkatan kemampuan secara mandiri tanpa campur tangan manusia.

Kondisi kritis yang berpotensi memicu skenario bencana tersebut mencakup:

• Evolusi Mandiri yang Eksponensial: Sistem AI mampu menulis ulang kodenya sendiri dan melipatgandakan kecerdasannya jauh melampaui batas kognitif manusia dalam hitungan hari.
• Ketiadaan Rem Pengaman: Algoritma keselamatan saat ini belum terbukti efektif bila diterapkan pada entitas yang memiliki kecerdasan melampaui manusia.
• Kompetisi Pasar Buta: Tekanan bisnis memaksa korporasi teknologi mengabaikan protokol pengujian ketat demi menjadi yang pertama di pasar.

Sinyal Bahaya dari Dalam Laboratorium AI

Pengakuan Hubinger memperkuat kritik yang dilayangkan Jacob Coxon, peneliti yang sebelumnya juga sempat bekerja di OpenAI sebelum akhirnya hengkang dari Anthropic. Coxon menuduh para pemimpin industri kecerdasan buatan secara sadar mengabaikan taruhan peradaban demi memenangkan perlombaan komersialisasi produk.

Gelombang pengunduran diri peneliti keselamatan di berbagai laboratorium terkemuka dunia mempertegas sinyal bahwa perlombaan membangun AGI (Artificial General Intelligence) kini berjalan di atas fondasi yang rapuh tanpa kepastian keselamatan bagi masa depan peradaban global.