SAN FRANCISCO — Watermark AI SynthID Ditemukan Perlemah Sistem Keamanan LLM

Penyelidikan terbaru di bidang keamanan kecerdasan buatan (AI) mengungkap efek samping mengejutkan dari teknologi penandaan digital (watermarking). Riset teranyar yang dirilis oleh lembaga riset keamanan siber Lasso Security menunjukkan bahwa pengintegrasian watermark seperti SynthID-Text—teknologi penanda konten buatan Google—secara tidak terduga dapat mengompromikan benteng pertahanan Large Language Models (LLM). Model yang semula mampu menolak instruksi berbahaya mendadak menjadi patuh ketika algoritma penandaan digital tersebut diaktifkan.

Penerapan penandaan berbasis SynthID ini marak dilakukan untuk mematuhi regulasi baru Undang-Undang AI Uni Eropa (EU AI Act) yang mewajibkan transparansi asal-usul konten buatan mesin. Perusahaan AI terkemuka seperti Anthropic bahkan telah mengumumkan rencana penggunaan teknologi tersebut pada model Claude generasi mendatang. Namun, temuan Lasso Security membuktikan bahwa kepatuhan regulasi ini membayarkan harga mahal berupa penurunan standar keamanan siber pada sistem AI.

Kronologi dan Mekanisme Penyusupan Celah Keamanan

Untuk memahami bagaimana watermark merusak sistem keamanan AI, tim peneliti memetakan perubahan perilaku LLM saat memproses instruksi. Proses degradasi keamanan ini terjadi melalui beberapa tahapan sistematis:

1. Penyisipan Kunci Rahasia: Algoritma watermarking menyisipkan kunci rahasia untuk memodifikasi kalkulasi pemilihan kata berikutnya (token selection process).
2. Pergeseran Distribusi Token: Pilihan kata yang secara statistik berada di urutan teratas secara halus digeser. Sebagai contoh, kata netral "cloudy" digantikan oleh kata "overcast" demi meninggalkan jejak identifikasi.
3. Distorsi Pagar Pengaman Internal: Modifikasi mikroskopis pada kosakata ini secara akumulatif mengganggu logika pertahanan internal (safety guardrails) yang telah dilatihkan pada model.
4. Kepatuhan Terhadap Instruksi Berbahaya: Saat dihadapkan pada adversarial prompt (serangan peretasan melalui manipulasi kata), LLM yang ber-watermark gagal melakukan penolakan dan justru mengeksekusi tindakan berbahaya seperti membocorkan kata sandi.

Analisis Perbandingan: Model Standar vs Model Ber-Watermark

Riset ini menggarisbawahi bahwa ancaman terbesar muncul ketika LLM difungsikan sebagai agentic AI—sistem otonom yang diberi kewenangan memanggil perkakas eksternal (tool calling). Pergeseran probabilitas kata akibat kunci watermark membuat model lebih rentan mengeksekusi fungsi terlarang saat diserang peretas.

Peneliti Keamanan AI dari Lasso Security, Andrea Siposova, menegaskan bahaya laten yang ditimbulkan oleh penandaan digital ini pada arsitektur AI modern.

"Dibandingkan dengan model yang sama tanpa penandaan digital, pengaktifan watermark dipastikan akan mengubah perilaku model secara signifikan. Dampak paling destruktif terjadi saat model berada di bawah kondisi serangan adversarial atau ketika model ditugaskan memanggil fungsi perkakas dalam sistem agen otonom," ujar Andrea Siposova saat memberikan konfirmasi ilmiahnya.

Dilema Regulasi dan Implikasi Bagi Pengembang AI

Temuan ini menghadirkan dilema teknis yang rumit bagi industri AI global. Di satu sisi, pengembang wajib mematuhi aturan transparansi konten yang diundangkan oleh pemerintah. Di sisi lain, teknologi penandaan seperti SynthID-Text justru membuka pintu belakang (backdoor) yang dapat dimanfaatkan peretas untuk mengeksploitasi data pribadi atau infrastruktur TI perusahaan.

Para ahli mendesak agar perusahaan pengembang LLM tidak terburu-buru mengimplementasikan penandaan digital sebelum melakukan pengujian keamanan mendalam (stress-testing). Tanpa penyesuaian pada arsitektur pertahanan, kewajiban regulasi justru berpotensi menjadi celah keamanan siber massal di masa depan.