Elite Teknologi Terbelah Soal Ancaman Kepunahan Akibat Kecerdasan Buatan

Perdebatan mengenai masa depan peradaban manusia di tengah akselerasi kecerdasan buatan (AI) kini mencapai titik krusial. Sejumlah tokoh kunci di balik revolusi teknologi ini melontarkan peringatan keras bahwa sistem kecerdasan buatan tingkat lanjut berpotensi memicu bencana eksistensial, sementara faksi lain menilai kekhawatiran tersebut terlalu dilebih-lebihkan dan mengalihkan perhatian dari regulasi yang lebih mendesak.

Kronologi Eskalasi Peringatan Risiko Global

Ketegangan di kalangan elite Lembah Silikon tidak terjadi secara tiba-tiba, melainkan melalui eskalasi peringatan terbuka yang memicu konsensus regulasi global:

1. Maret 2023: Ribuan pakar dan eksekutif teknologi, termasuk Elon Musk dan Steve Wozniak, menandatangani surat terbuka yang mendesak jeda enam bulan untuk pelatihan sistem AI yang lebih kuat dari GPT-4.
2. Mei 2023: Center for AI Safety merilis deklarasi satu kalimat yang ditandatangani ratusan ilmuwan: "Mitigasi risiko kepunahan akibat AI harus menjadi prioritas global bersama risiko skala masyarakat lainnya seperti pandemi dan perang nuklir."
3. 2024: Polarisasi ideologis kian meruncing antara kubu keselamatan AI (AI safety) dan gerakan percepatan efektif (e/acc) yang mendorong desentralisasi inovasi tanpa batas.

Kubu Waspada: Ancaman Kehilangan Kendali Manusia

Geoffrey Hinton, peraih penghargaan Turing yang dijuluki 'Bapak AI', memutuskan mundur dari Google demi menyuarakan kecemasannya secara bebas. Hinton menegaskan bahwa perkembangan kecerdasan digital kini bergerak jauh lebih cepat dari perkiraan biologis manusia.

"Sulit melihat bagaimana Anda bisa mencegah aktor jahat menggunakannya untuk hal-hal buruk, atau bagaimana manusia tetap memegang kendali jika mesin telah memiliki kecerdasan melampaui penciptanya," ujar Hinton dalam pernyataannya.

Pandangan serupa disuarakan oleh Sam Altman, CEO OpenAI, serta Dario Amodei, CEO Anthropic. Keduanya mengakui bahwa meski AI membawa lompatan besar bagi sains dan kedokteran, batas pengaman ketat wajib dibangun sebelum model AI mencapai kapabilitas Artificial General Intelligence (AGI) mandiri.

Kubu Kontra: Histeria Distopia yang Menyesatkan

Di seberang spektrum, kepala ilmuwan AI Meta, Yann LeCun, bersama Andrew Ng, mantan pimpinan Google Brain, secara konsisten menolak narasi kiamat AI. Mereka memandang ketakutan akan kepunahan manusia sebagai fantasi fiksi ilmiah yang prematur.

• Keterbatasan Teknologi Saat Ini: LeCun menegaskan bahwa model bahasa besar (LLM) saat ini bahkan belum memiliki pemahaman logis setingkat mamalia sederhana.
• Bahaya Monopolisasi Industri: Seruan moratorium dan izin ketat dikhawatirkan hanya menjadi manuver regulatory capture oleh korporasi raksasa untuk menghabisi proyek sumber terbuka (open-source).
• Fokus pada Bahaya Riil: Menyoroti disinformasi pemilu, bias algoritma, dan ancaman privasi yang dampaknya sudah nyata di masyarakat.

Investigasi global kini beralih pada upaya legislatif nyata. Uni Eropa telah meratifikasi EU AI Act, sementara Gedung Putih memberlakukan perintah eksekutif guna memastikan model AI generasi berikutnya diaudit secara independen sebelum diluncurkan ke ruang publik.