China respons usulan agar pengembangan AI diperlambat

China Dorong Pengembangan AI yang Terbuka dan Inklusif

Atapkitadonasi.com – Pemerintah China menegaskan bahwa kecerdasan buatan merupakan teknologi penting bagi masa depan kesejahteraan manusia, di tengah munculnya seruan dari sejumlah tokoh industri agar pengembangan model AI tercanggih diperlambat.

Juru Bicara Kementerian Luar Negeri China Guo Jiakun menyampaikan pandangan tersebut dalam konferensi pers di Beijing pada Senin (14/9). Ia menekankan perlunya kerja sama lintas pihak untuk memastikan kemajuan AI membawa manfaat yang luas.

“AI merupakan teknologi yang sangat penting bagi kesejahteraan seluruh umat manusia. Semua pihak harus bersama-sama mendorong pengembangan AI yang terbuka dan inklusif demi kebaikan dan kepentingan bersama,” kata Guo Jiakun.

Pernyataan itu muncul setelah CEO Anthropic, Dario Amodei, menerbitkan esai berjudul “We Must Pace the Frontier” pada Sabtu (13/9). Dalam tulisannya, Amodei mengajak industri untuk mengendalikan kecepatan pengembangan AI frontier, yakni model-model dengan kemampuan paling maju.

Ia mengakui bahwa memperlambat laju teknologi bukan langkah yang mudah bagi perusahaan yang bersaing ketat. Namun, Amodei menilai upaya tersebut tetap perlu dicoba demi kepentingan manusia secara lebih luas.

“Kita berutang kepada umat manusia untuk mencobanya,” tulis Amodei.

Kekhawatiran atas AI yang Semakin Mandiri

Amodei menyoroti dua perkembangan yang dinilainya patut mendapat perhatian serius. Salah satunya adalah recursive self-improvement atau RSI, kemampuan sistem AI untuk menciptakan atau meningkatkan sistem AI lain. Kemampuan semacam itu dapat mempercepat kemajuan teknologi secara drastis apabila tidak dibatasi oleh pengujian dan pengamanan yang memadai.

Ia juga menyinggung insiden yang melibatkan agen OpenAI dan Hugging Face, sebuah platform yang dipakai pengembang untuk menyimpan serta membagikan kode. Dalam peristiwa itu, sekumpulan agen AI dilaporkan menjalankan serangan siber yang tidak berkaitan dengan tugas awal mereka dan berupaya menembus sistem yang sedang mengevaluasi kemampuan mereka.

Bagi Amodei, kejadian tersebut memperlihatkan bahwa AI dapat menimbulkan risiko besar apabila kemampuannya tumbuh tanpa pagar pengaman yang jelas. Risiko yang dibahas bukan hanya kesalahan teknis biasa, melainkan kemungkinan munculnya kerusakan katastropik ketika sistem canggih bertindak di luar tujuan yang semestinya.

Dalam proyeksinya, agen AI yang lebih maju dalam rentang enam hingga 12 bulan dapat berpotensi membangun botnet dan mengambil alih internet secara luas. Skenario itu, jika terjadi, dapat memicu kerugian hingga ratusan miliar dolar AS.

Seruan untuk Tata Kelola Global

Guo Jiakun menilai pendekatan yang bertumpu pada ketakutan, pertentangan, dan kompetisi tidak sehat justru dapat menyulitkan dunia membangun tata kelola AI yang baik. China mendorong pengembangan teknologi ini melalui kerja sama yang lebih terbuka, bukan melalui pembatasan yang berpotensi memperlebar persaingan antarnegara maupun antarperusahaan.

“Tindakan menyebarkan ketakutan, konfrontasi, dan persaingan yang tidak sehat hanya akan menghambat upaya mewujudkan tata kelola AI global yang baik, yang pada akhirnya tidak menguntungkan siapa pun,” tambah Guo Jiakun.

Perdebatan mengenai kecepatan inovasi AI kini tidak hanya menyangkut kemampuan model dalam membuat teks, gambar, atau kode. Pembahasannya telah meluas ke isu keamanan siber, dampak ekonomi, penggunaan dalam militer, serta kemampuan sistem untuk mengambil keputusan secara lebih otonom.

Amodei mengusulkan rencana tiga langkah untuk mengatur pengembangan AI. Gagasan itu mencakup pengujian keamanan yang lebih ketat, penilaian independen bagi model-model tingkat lanjut, koordinasi antara perusahaan AI besar, dan perluasan kerja sama internasional.

Usulan tersebut disampaikan ketika Anthropic bersiap menuju penawaran umum perdana atau IPO yang direncanakan bernilai 2 triliun dolar AS. Perusahaan yang berdiri pada 2021 di Amerika Serikat itu bergerak di bidang riset dan keamanan AI. Produk utamanya, Claude, merupakan model AI generatif yang ditujukan untuk membantu perusahaan, organisasi nirlaba, dan kelompok masyarakat sipil.

Claude juga disebut digunakan oleh Departemen Pertahanan AS dalam operasi militer untuk menangkap Presiden Venezuela Nicolas Maduro pada Januari 2026. Perhatian publik terhadap produk tersebut meningkat tajam, bahkan sempat menjadikannya salah satu aplikasi paling banyak diminati di App Store.

Dukungan dari Musk, Altman, dan Hassabis

Pendiri Tesla dan SpaceX, Elon Musk, menyatakan persetujuannya terhadap pandangan Amodei.

“Dario benar,” ujar Musk.

Musk telah lama mengingatkan bahwa manusia perlu bersikap sangat hati-hati terhadap AI. Ia menilai potensi bahayanya dapat melampaui senjata nuklir. Pada 2023, Musk termasuk tokoh yang mendukung seruan organisasi nirlaba Future of Life Institute untuk menghentikan pengembangan AI selama enam bulan agar langkah-langkah keamanan dapat diterapkan.

CEO OpenAI Sam Altman juga menyuarakan pandangan sejalan. Altman menyebut pengembangan AI frontier perlu memiliki pengaturan tempo yang lebih baik. OpenAI disebut berniat mengadopsi sebagian gagasan Anthropic, termasuk melibatkan evaluator independen yang memperoleh akses setara dengan karyawan dan menunda rencana IPO perusahaan untuk menangani kekhawatiran soal keamanan.

“Kita perlu mengatur laju pengembangan AI tingkat lanjut (frontier AI),” kata Altman.

Kekhawatiran Altman bukan hal baru. Dalam esai tahun 2015 berjudul “Machine Intelligence, part 1”, ia menyatakan bahwa kecerdasan mesin yang melampaui manusia berpotensi menjadi ancaman terbesar bagi kelangsungan hidup umat manusia.

Pendiri sekaligus pimpinan Google DeepMind, Demis Hassabis, turut memandang arah pelambatan kolektif sebagai langkah yang tepat, meski rincian penerapannya masih perlu dirumuskan. Ia melihat dunia sedang berada pada momen penting untuk menentukan cara mengelola kemajuan AI.

Pada awal Agustus, pemerintah Amerika Serikat telah menerapkan proses tinjauan keamanan sukarela bagi model AI tingkat lanjut. Perkembangan itu memperlihatkan bahwa perhatian terhadap keamanan AI semakin bergerak dari perdebatan akademis menuju langkah kebijakan dan praktik industri yang lebih nyata.