SHANGHAI — Pengembang kecerdasan buatan (AI) di China dinilai mungkin belum mencapai tingkat kemampuan yang cukup tinggi untuk merasakan risiko keselamatan yang kini mulai dihadapi perusahaan AI terkemuka di Amerika Serikat.

Hal tersebut disampaikan Eric Xu, Chairman Bergilir Huawei, dalam konferensi tahunan Huawei Connect di Shanghai, mengutip dari Reuters.

Menurut Xu, pengembang AI China perlu terus mempercepat pengembangan model yang lebih kuat, sembari mencari keseimbangan antara inovasi dan mitigasi risiko.

"Jika kita melihat penyedia model AI utama di Amerika Serikat, karena mereka memiliki kemampuan komputasi yang sangat besar, mungkin hanya mereka sendiri yang mengetahui posisi mereka dalam hal tingkat kemampuan model," kata Xu kepada wartawan.

Ia menambahkan, risiko yang mulai dirasakan dan dapat dideteksi oleh perusahaan AI terdepan di AS mungkin belum dapat dirasakan oleh pengembang model AI di China.

Kekhawatiran Keselamatan AI di AS

Pernyataan Xu muncul ketika kekhawatiran mengenai keselamatan AI semakin meningkat di Amerika Serikat.

Sejumlah pengembang dan peneliti AI terkemuka memperingatkan bahwa sistem yang semakin otonom berpotensi melewati mekanisme pengamanan atau menjadi semakin sulit dikendalikan.

OpenAI, misalnya, menyatakan akan secara berkala mengungkap perilaku model yang tidak terduga atau tidak diizinkan.

Sementara itu, sejumlah eksekutif industri, termasuk CEO Anthropic Dario Amodei, menyerukan agar pengembangan AI diperlambat sehingga sistem pengaman dapat mengejar perkembangan teknologi.

Namun, gagasan tersebut mendapat kritik di China.

Sejumlah peneliti dan media pemerintah China berpendapat bahwa memperlambat pengembangan model AI paling canggih justru dapat membantu mempertahankan keunggulan teknologi perusahaan-perusahaan AS.

Sebagian komentator China bahkan menilai seruan untuk memperlambat atau mengatur laju pengembangan AI terdepan sebagai upaya membatasi pesaing yang masih berada di belakang laboratorium AI terkemuka AS, bukan semata-mata sebagai respons terhadap persoalan keselamatan.

China Tetap Percepat Pengembangan AI

Pemerintah China pada umumnya memandang AI canggih sebagai teknologi yang memiliki kekuatan besar tetapi masih dapat dikelola.

Beijing terus mendorong penerapan AI secara cepat sembari mengembangkan standar wajib, penilaian keamanan, serta berbagai mekanisme pengamanan.

Langkah tersebut mencakup mitigasi terhadap risiko seperti agen AI otonom yang dapat menghindari kontrol atau menyerang sistem eksternal.

China juga tengah menyusun standar nasional wajib mengenai keamanan agen AI.

Xu mengatakan pengembang China mungkin perlu mempercepat pengembangan mereka hingga mencapai tingkat tertentu sebelum dapat menghadapi risiko yang serupa dengan model AI terdepan di AS.

"Saya pikir penyedia model AI di China mungkin perlu mempercepat langkah mereka hingga mencapai tingkat di mana mereka juga dapat merasakan risiko dari pengembangan AI," ujar Xu.

Menurutnya, industri perlu menemukan titik keseimbangan antara mendorong kemajuan AI dan mengelola risiko yang ditimbulkannya.

Huawei Prediksi Ledakan Agen AI

Huawei sendiri memperkirakan penggunaan agen AI otonom akan berkembang pesat. Perusahaan tersebut memproyeksikan agen AI akan menyumbang lebih dari 90% lalu lintas pemrosesan AI global pada 2035.

Agen AI merupakan sistem yang dapat merencanakan tugas, mengambil keputusan, serta menggunakan perangkat lunak atau berbagai alat dengan pengawasan manusia yang terbatas.

Huawei memperkirakan jumlah agen AI aktif dapat mencapai 900 miliar pada 2035. Perusahaan juga mengidentifikasi keamanan dan privasi agen sebagai dua teknologi penting yang perlu dikembangkan seiring pertumbuhan tersebut.

Huawei saat ini merupakan pemasok utama infrastruktur komputasi domestik China yang dibutuhkan untuk melatih model AI canggih.

Peran besar perusahaan tersebut dalam pasar chip AI China, yang bernilai sekitar US$50 miliar, semakin penting setelah pembatasan ekspor Amerika Serikat sejak 2023 membatasi akses perusahaan-perusahaan China terhadap chip mutakhir buatan Nvidia.

Dalam pernyataan terpisah pada Kamis, Xu mengatakan Huawei sendiri belum mampu memproduksi peralatan komputasi AI dalam jumlah yang cukup untuk memenuhi seluruh permintaan domestik China. (DK)