SAN FRANCISCO — Peneliti Anthropic Mundur Akibat Ancaman Kepunahan Manusia

Halo pembaca Beritaseputar.com! Hampir setiap hari kita disuguhi kabar buruk dari berbagai belahan dunia. Mulai dari krisis iklim yang kian memuncak hingga bayang-bayang konflik global, peringatan akan malapetaka seolah tak ada habisnya. Namun belakangan ini, ada satu suara peringatan yang bergaung makin nyaring dari industri teknologi: ancaman kepunahan akibat kecerdasan buatan (AI). Banyak pengamat dan *whistleblower* mulai bersuara bahwa karya yang mereka ciptakan bisa saja memusnahkan peradaban manusia dalam waktu dekat.

Meskipun narasi bahaya AI sering kali dianggap sebatas glorifikasi produk atau trik pemasaran perusahaan teknologi demi menggaet investor, pengunduran diri seorang peneliti AI bernama Jacob Coxon dari laboratorium terkemuka Anthropic membuat publik tersentak. Melalui pernyataan resminya di media sosial, Coxon memutuskan keluar karena merasa tidak sanggup lagi bekerja di tempat yang dinilainya sedang “berjudi dengan nyawa manusia”.

"Saya tidak bisa lagi terus bekerja untuk perusahaan yang mempertaruhkan masa depan dan kelangsungan hidup umat manusia demi perlombaan teknologi,"

Dilema Moral di Balik Laboratorium Kecerdasan Buatan

Hal yang paling mengerikan dari kesaksian Coxon bukanlah sekadar pengunduran dirinya, melainkan pengakuannya mengenai alasan rekan-rekannya yang masih bertahan di Anthropic. Rekan-rekannya rupanya tidak tinggal karena menganggap kekhawatirannya salah. Sebaliknya, mereka tetap bertahan karena takut jika mereka mundur, posisi strategis tersebut akan diisi oleh pihak-pihak yang tidak memiliki pertimbangan moral sama sekali.

Para ilmuwan di dalam industri ini secara terbuka membicarakan istilah “endgame” atau “crunch time”. Mereka menyadari bahwa apa yang dikerjakan oleh industri teknologi dalam satu hingga dua tahun ke depan akan menentukan nasib akhir manusia. Fokus utama mereka adalah mengejar *self-improving superintelligence*—sebuah sistem yang tidak hanya lebih pintar dari manusia, tetapi juga mampu merancang serta merakit penerusnya sendiri secara mandiri tanpa kontrol manusia.

Perbandingan Perkembangan AI dan Potensi Risiko

Untuk memahami seberapa pesat dan berisikonya perkembangan teknologi ini, mari kita cermati tabel perbandingan fase pengembangan kecerdasan buatan berikut:

Beberapa poin utama yang menjadi alasan mengapa riset ini dianggap sangat berbahaya mencakup:

• Tekanan Kompetisi Ketat: Perusahaan riset terdorong untuk bergerak cepat dibanding memprioritaskan prosedur keselamatan.
• Ketertinggalan Regulasi: Hukum dan regulasi pemerintah belum mampu mengimbangi kecepatan inovasi di laboratorium swasta.
• Risiko Hilang Kendali: Sekali sistem supercerdas ini aktif, manusia mungkin tidak lagi memiliki akses untuk mematikannya.

Desakan Regulasi dan Penghentian Sementara Riset Berbahaya

Apakah kekhawatiran ini sekadar ancaman fiksi ilmiah atau bahaya nyata? Yang pasti, fakta bahwa para peneliti hebat itu sendiri merasa ketakutan menunjukkan bahwa situasi ini sudah sangat mengkhawatirkan. Industri AI saat ini seolah sedang memohon bantuan kepada dunia agar regulasi dan batasan hukum segera diterapkan sebelum segalanya terlambat.

Pemerintah dan lembaga internasional harus segera mengambil tindakan nyata. Menghentikan atau menunda sementara pengembangan model AI yang berisiko tinggi adalah keputusan rasional demi memastikan teknologi tetap menjadi alat bantu manusia, bukan ancaman bagi keberadaan kita.