Sekjen PBB Guterres Peringatkan Bahaya AI dan Desak Pengawasan Global

Di balik kemegahan Ruang Sidang Utama Markas Besar Perserikatan Bangsa-Bangsa (PBB) di New York, sebuah nada kecemasan yang mendalam bergema dari mimbar diplomatik. Sekretaris Jenderal PBB, António Guterres, menyampaikan peringatan keras yang ditujukan langsung kepada para pemimpin dunia. Perkembangan pesat kecerdasan buatan (Artificial Intelligence/AI) tanpa benteng regulasi yang kokoh tidak lagi sekadar menjadi isu inovasi teknologi, melainkan ancaman eksistensial bagi stabilitas politik, ekonomi, dan peradaban manusia.

Kekhawatiran ini membuncah ketika algoritma pembelajaran mesin kini tak hanya mampu menulis teks sederhana, tetapi juga mulai merambah pada potensi manipulasi opini publik secara masif, perancangan senjata otonom mematikan, hingga ancaman penggoyahan lanskap ekonomi global. Di tengah perlombaan senjata digital antar-korporasi raksasa teknologi, instrumen hukum internasional terancam usang dan tak berdaya sebelum sempat diterapkan.

Ancaman Tanpa Kendali dan Jurang Regulasi Global

Dalam investigasi tata kelola teknologi global, Guterres menyoroti bagaimana lanskap teknologi bergerak dalam hitungan detik, sementara birokrasi penegakan hukum internasional berjalan lambat. Kecepatan akuisisi data dan otomatisasi keputusan oleh sistem AI menciptakan celah bahaya yang belum pernah disaksikan dalam sejarah modern manusia.

"Kecerdasan buatan memiliki potensi luar biasa untuk kebaikan bersama, tetapi tanpa pengawasan yang melampaui batas-batas negara, kita sedang melangkah menuju ketidakpastian yang sangat berbahaya," tegas António Guterres dalam penjelasannya kepada media.

Ketakutan terbesar PBB bukan sekadar disrupsi pasar kerja yang diperkirakan bakal mengeliminasi jutaan mata pencaharian, melainkan potensi penyalahgunaan teknologi ini oleh aktor non-negara atau rezim otoriter. Penyebaran disinformasi yang masif melalui teknologi deepfake berbasis AI telah terbukti mampu meretakkan fondasi demokrasi di berbagai belahan dunia.

Perbandingan Langkah Regulasi AI di Tingkat Global

Untuk memahami kompleksitas penanganan bahaya AI, PBB menggarisbawahi perlunya penyelarasan kerangka kerja internasional. Beberapa kawasan telah memulai inisiatif hukum tersendiri, namun efektivitasnya tetap terbatas tanpa adanya pengawasan terpadu di bawah naungan PBB.

Dalam skema usulan PBB, lembaga pengawas ini diidealkan memiliki peran mirip dengan International Atomic Energy Agency (IAEA) yang mengawasi penggunaan energi nuklir. Langkah ini dianggap sangat krusial mengingat investasi global pada sektor AI diperkirakan akan menembus angka lebih dari US$ 200 miliar pada akhir 2025, sebuah angka yang mencerminkan dominasi modal dibanding perlindungan keselamatan publik.

Dilema Etika dan Implikasi bagi Negara Berkembang

Hasil analisis menunjukkan bahwa negara-negara berkembang berisiko menjadi pihak yang paling dirugikan dari kesenjangan tata kelola ini. Ketika negara-negara maju memonopoli pusat data dan infrastruktur komputasi canggih, negara berkembang terancam hanya menjadi konsumen pasif yang rentan terhadap ketergantungan digital dan eksploitasi data secara masif.

PBB mengidentifikasi tiga fokus kritis yang harus segera ditindaklanjuti oleh para kepala negara:

• Pembentukan Regulasi Keamanan Bersama: Menyusun standar etika universal yang secara tegas melarang penggunaan AI untuk senjata otonom mematikan.
• Pencegahan Monopoli Teknologi: Mendorong akses terbuka dan inkulsif terhadap inovasi AI agar tidak hanya dikuasai oleh segelintir raksasa teknologi.
• Perlindungan Privasi dan Hak Asasi: Memastikan bahwa algoritma pembelajaran mesin tidak memperkuat diskriminasi sistemik atau melanggar hak privasi warga dunia.

Peringatan Guterres bukan sekadar seruan diplomatik rutin di meja perundingan. Ini adalah panggilan darurat internasional sebelum kendali atas teknologi paling destruktif sekaligus transformatif ini benar-benar lepas dari genggaman peradaban manusia. Waktu bagi para pemimpin dunia untuk bertindak tidak lagi dihitung dalam hitungan tahun, melainkan hari.