SUMATERA UTARA — Anthropic, perusahaan di balik model AI Claude, memicu perdebatan baru di industri teknologi dengan proposal kontroversialnya. Dalam sebuah unggahan blog resmi, perusahaan yang dikabarkan akan segera melantai di bursa saham AS tahun ini itu menyatakan kekhawatiran serius terhadap lintasan perkembangan AI saat ini. Menurut Anthropic, tren menunjukkan bahwa sistem AI suatu saat akan mampu mengembangkan versi dirinya sendiri yang lebih canggih—sebuah titik yang mereka sebut bisa tiba "lebih cepat dari kesiapan sebagian besar institusi."
Skynet Versi Nyata: Antara Manfaat dan Bencana
Anthropic tidak menampik potensi positif dari AI yang mampu merekayasa dirinya sendiri. Perusahaan menyebut teknologi ini bisa "membawa kebaikan besar bagi dunia" di bidang sains dan kesehatan. Namun, sisi gelapnya juga diakui: kemungkinan "meningkatnya risiko manusia kehilangan kendali atas sistem AI." Untuk mengantisipasi skenario fiksi ilmiah semacam itu, Anthropic mengusulkan solusi drastis berupa perlambatan global atau jeda sementara pengembangan AI. Tujuannya adalah memberi waktu bagi struktur sosial masyarakat dan riset keselarasan (alignment research) untuk mengejar ketertinggalan dari laju teknologi.
Di Balik Usulan: Riset atau Gimmick Pemasaran?
Usulan ini datang dari perusahaan yang justru sedang berada di puncak performa. Berbeda dengan banyak kompetitor yang masih merugi, Anthropic dilaporkan berada di jalur menuju kuartal pertama yang profitabel. Perusahaan baru saja mengajukan dokumen ke SEC untuk menjadi perusahaan publik, kemungkinan besar sebelum akhir tahun ini. Posisi inilah yang kemudian memicu skeptisisme. Seperti dicatat The Wall Street Journal, para kritikus menilai peringatan Anthropic tentang teknologinya sendiri hanyalah "gimmick marketing"—upaya untuk terlihat sebagai perusahaan AI yang paling etis di tengah hiruk-pikuk industri.
Kritik ini mengerucut pada contoh rilisan terbatas model AI keamanan siber mereka, Mythos. Anthropic mengaku hanya merilis Mythos ke segelintir mitra terpilih karena khawatir kemampuan model tersebut dalam mengidentifikasi celah keamanan secara cepat bisa disalahgunakan. Namun, banyak pihak menilai ini hanya taktik untuk membangun hype atau menutupi fakta bahwa Anthropic hanya ingin menjual produk tersebut ke perusahaan-perusahaan raksasa.
Anthropic Institute: Garda Depan Riset atau Dalang di Balik Layar?
Terlepas dari kontroversi, Anthropic menegaskan bahwa usulan mereka bukanlah isapan jempol belaka. Perusahaan merujuk pada temuan dari Anthropic Institute, divisi riset yang dibentuk pada Maret lalu. Institusi ini, menurut pernyataan Anthropic saat itu, bertugas untuk "memberi tahu dunia" tentang tantangan yang muncul seiring pengembangan AI yang lebih canggih. Bersama para kolaborator, institut ini akan meneliti apa yang diperlukan untuk "membangun sistem yang dibutuhkan oleh perlambatan atau jeda yang kredibel."
Tantangan Verifikasi: Siapa yang Mengawasi Para Pengembang?
Jika para raksasa AI sepakat untuk melambat, tantangan terbesarnya justru baru dimulai: verifikasi. Anthropic dengan gamblang mengakui bahwa mekanisme pengawasan mutlak diperlukan. Tanpanya, beberapa perusahaan bisa diam-diam terus mengembangkan teknologi mereka dan melompat jauh di depan yang lain. "Perlambatan atau jeda yang berarti membutuhkan banyak laboratorium yang berada di garis depan, di berbagai negara, untuk setuju berhenti dalam kondisi yang sama," tulis Anthropic. "Ini juga mensyaratkan bahwa masing-masing bisa memverifikasi bahwa yang lain benar-benar telah berhenti."
Perlombaan Melawan Waktu: Belajar dari Perjanjian Nuklir
Anthropic mengakui bahwa mewujudkan moratorium global ini adalah tugas raksasa. Dibutuhkan kesepakatan semua perusahaan AI di seluruh dunia—sebuah skenario yang mereka sendiri akui sulit, meski bukan mustahil. Sebagai analogi, mereka mencontohkan perjanjian senjata nuklir, namun dengan catatan pahit: perjanjian semacam itu memakan waktu puluhan tahun untuk dirundingkan. Sementara itu, waktu yang dimiliki manusia tidaklah panjang. Perkembangan AI berlangsung dengan kecepatan eksponensial. Dalam beberapa bulan ke depan, Anthropic berencana menggelar diskusi dengan para pembuat kebijakan, peneliti, dan perusahaan AI lainnya. Hasil dari percakapan-percakapan itu rencananya akan dipublikasikan, menjadi semacam peta jalan bagi masa depan umat manusia—atau setidaknya, bagi masa depan industri AI itu sendiri.
