Pakar Peringatkan Proposal Perlambatan AI Gagal Hilangkan Risiko Kepunahan

Kekhawatiran global terhadap perkembangan kecerdasan buatan (AI) garis depan (frontier AI) kembali mencapai titik kritis. Pengunduran diri Jacob Coxon dari laboratorium riset Anthropic telah membuka tabir perdebatan etis di balik pintu tertutup raksasa teknologi, memperkuat peringatan bertahun-tahun dari para pakar independen bahwa industri kecerdasan buatan sedang bertaruh dengan keselamatan peradaban manusia.

Krisis kepercayaan publik ini memaksa para petinggi teknologi merespons. Namun, inisiatif teranyar berupa usulan perlambatan bertahap dinilai oleh pengamat keselamatan AI, termasuk ilmuwan komputer David Krueger, hanya sebagai ilusi perlindungan yang tidak menyelesaikan akar masalah hilangnya kendali manusia atas sistem cerdas otonom.

Kronologi Ketegangan Tata Kelola AI Garis Depan

Eskalasi perdebatan mengenai risiko eksistensial AI berkembang dalam rangkaian peristiwa penting yang melibatkan regulator, peneliti, dan pemimpin industri teknologi terkemuka:

1. Eksodus Peneliti Keselamatan: Sejumlah peneliti senior, termasuk Jacob Coxon yang sebelumnya bekerja di Anthropic dan OpenAI, memutuskan mundur secara terbuka demi menyuarakan peringatan keras bahwa standar keselamatan internal telah dikesampingkan demi keunggulan komersial.
2. Proposal 'Pacing the Frontier': Chief Executive Officer Anthropic, Dario Amodei, memublikasikan manifesto regulasi mandiri yang mengusulkan perlambatan tempo pengembangan AI selama satu hingga dua tahun guna memberikan ruang bagi riset keselamatan teknis. Gagasan ini mendapatkan dukungan dari figur berpengaruh seperti CEO OpenAI Sam Altman dan miliarder Elon Musk.
3. Kritik Keras Komunitas Ilmiah: Pakar keselamatan AI independen menolak gagasan tersebut sebagai kompromi dangkal, menegaskan bahwa jeda waktu singkat tidak memberikan jaminan matematis atau teknis bahwa model generasi berikutnya dapat dikendalikan secara andal.

"Kenyataan pahitnya adalah kita belum memiliki pemahaman ilmiah dasar untuk mempertahankan kendali penuh atas sistem-sistem otonom ini. Jeda singkat satu hingga dua tahun bukan rencana yang menjamin kepunahan dapat dicegah," tegas David Krueger dalam analisis kritisnya.

Kelemahan Mendasar Konsep 'Pacing'

Analisis komparatif menunjukkan bahwa strategi perlambatan tempo pengembangan memiliki kelemahan struktural mendasar. Poin-poin kritis yang disorot mencakup:

• Ketiadaan Jaminan Penyelarasan (Alignment): Riset penyelarasan AI hingga saat ini belum menemukan mekanisme pasti untuk memastikan model supercerdas tidak mengembangkan tujuan tersembunyi yang bertentangan dengan eksistensi manusia.
• Dilema Tahanan Korporasi: Mekanisme perlambatan sukarela tanpa regulasi hukum internasional yang mengikat rentan runtuh akibat insentif kompetisi pasar bebas dan perlombaan senjata geopolitik.
• Kurangnya Transparansi Pengujian: Parameter penilaian ambang bahaya pada model frontier masih dirumuskan secara tertutup oleh korporasi pengembang, tanpa mekanisme audit publik yang independen.

Masyarakat ilmiah kini mendesak pemerintah dunia untuk tidak menyerahkan kendali masa depan kepada ikrar sukarela korporasi teknologi. Langkah yang dinilai esensial mencakup pemberlakuan batasan keras (hard red lines), audit komputasi berskala global, dan pembentukan badan tata kelola internasional yang memiliki wewenang hukum menghentikan eksperimen berbahaya sebelum model supercerdas melampaui kemampuan pengawasan manusia.