Jakarta, CNBC Indonesia - Pernyataan pengunduran diri Jacob Coxon, seorang peneliti di perusahaan rintisan kecerdasan buatan (Artificial Intelligence / AI) Anthropic, memicu gelombang kekhawatiran baru di Amerika Serikat (AS). Dampaknya tak main-main, Kongres AS kini bergerak cepat membahas aturan hukum yang mewajibkan perusahaan AI membuktikan produk buatannya aman dari risiko bahaya.
Sebelumnya, Coxon membuat geger setelah mengungkap alasan di balik keputusannya meninggalkan Anthropic. Ia menyebut para pengembang di industri tersebut secara diam-diam meyakini bahwa AI dapat memusnahkan umat manusia sebelum dekade ini berakhir.
Menyikapi eskalasi kekhawatiran tersebut, para senator AS langsung turun tangan merancang regulasi pencegahan terhadap model-model AI berisiko tinggi.
Berdasarkan laporan Reuters, Selasa (15/9/2026), staf Senat dan tim negosiator menyebutkan bahwa aturan ini berpotensi memberikan kewenangan khusus kepada Menteri Perdagangan AS. Sang menteri nantinya berhak mendesak perusahaan AI untuk menunjukkan bukti valid terkait adanya sistem pengamanan, bahkan berwenang menurunkan auditor independen guna menguji langsung keamanannya.
Kendati demikian, pembahasan regulasi ini masih berada di fase awal. Reuters mencatat peluang undang-undang tersebut untuk disahkan tergolong kecil, sekalipun mendapat lampu hijau dari Kongres.
Sikap resisten pun datang dari Gedung Putih. Presiden Donald Trump sempat menyatakan bahwa instrumen hukum yang ada saat ini sudah cukup memadai untuk mengatur dan menindak raksasa teknologi. Isyarat ini memperlihatkan keengganannya untuk meneken rancangan undang-undang baru terkait AI.
Selain itu, para negosiator dikabarkan tengah mendiskusikan pelibatan pengadilan federal untuk memblokir perilisan model AI tertentu yang dinilai berbahaya. Di sisi lain, perusahaan tetap diberikan hak hukum untuk menggugat keputusan tersebut di pengadilan. Detail kewenangan lintas lembaga ini hingga kini masih dimatangkan.
Poin krusial lain dalam rancangan tersebut, menurut keterangan para pelobi dan staf legislatif, adalah adanya klausul yang melarang pemerintah tingkat negara bagian (state) membuat aturan hukum sendiri dalam mengawasi risiko AI, demi menjaga keseragaman regulasi nasional.
Tak berselang lama dari pengakuan Coxon, para bos raksasa teknologi akhirnya juga sepakat memperlambat peningkatan AI. CEO Anthropic, Dario Amodei, merilis esai panjang yang diunggah di platform X pada Sabtu (12/9). Ia secara terbuka menyerukan agar industri teknologi tidak lagi berlomba-lomba mempercepat kapasitas superinteligensi AI, melainkan mulai mengerem lajunya.
"Kita harus memperlambat kecepatan peningkatan kemampuan model AI. Kemajuan akan tetap terlihat cepat, dan kita harus memanfaatkan waktu yang kita peroleh dengan bijak," tulis Amodei, menggemakan peringatan keras yang sebelumnya sempat dilempar oleh eks penelitinya sendiri, Jacob Coxon, soal potensi ancaman eksistensial bagi umat manusia.
Untuk meredam potensi petaka, Amodei mengajukan cetak biru (blueprint) berisi tiga langkah taktis:
Penerapan Evaluator Independen: Menempatkan pengawas dari luar yang memiliki akses penuh setingkat karyawan guna menguji dan memverifikasi aspek keamanan sistem.
Aliansi Pengembang AI: Membangun koordinasi ketat antar-perusahaan rintisan terdepan untuk menetapkan standar keselamatan baku sekaligus membatasi uji coba liar yang tak terkendali.
Diplomasi Global: Mendorong kerja sama lintas negara demi merumuskan kerangka mitigasi risiko AI secara masif.
Ide Amodei diamini para bos raksasa teknologi dunia lain yang juga mengembangkan AI. Berikut rangkumannya:
Elon Musk (xAI): Menanggapi dingin namun tegas lewat balasan singkat di X, "Dario benar."
Sam Altman (OpenAI): Ambil posisi lebih moderat tapi serius. Ia menekankan bahwa konsep "mengerem" (pacing) bukan berarti "berhenti total", melainkan menyesuaikan ritme agar aspek keamanan tidak kedodoran oleh ambisi bisnis. "Dunia berhak mendapat keyakinan bahwa perusahaan AS bertindak bertanggung jawab," cetus Altman.
Satya Nadella (Microsoft): Memilih sudut pandang etis dan inklusif. Menurutnya, segala bentuk pengejaran superinteligensi akan kehilangan makna jika berakhir mengancam kendali manusia. Microsoft pun bersiap merilis "Kode Etik" untuk model AI mereka sendiri guna membuka ruang konsultasi publik. "Kuncinya, hal ini tidak boleh dikendalikan oleh segelintir entitas saja," tegas Nadella.
Ketika para arsitek teknologi paling berpengaruh di muka bumi mendadak sepakat bahwa "laju kecepatan" mereka sendiri mulai terasa menakutkan, pertanyaannya kini: apakah rem darurat ini benar-benar akan diinjak, atau sekadar jadi gimik manis di linimasa media sosial?
Menurut Anda, apakah penundaan laju pengembangan AI ini bakal benar-benar diterapkan, atau industri akan terus 'gaspol' demi kejayaan bisnis?
