CEO OpenAI dan Anthropic meminta Dewan Keamanan PBB menyusun standar internasional untuk pengembangan AI, termasuk sistem pelaporan insiden yang cepat.
Pimpinan dua perusahaan kecerdasan buatan, Anthropic dan OpenAI, sepakat di hadapan Dewan Keamanan PBB bahwa industri AI memerlukan standar dan kerja sama internasional. Alasannya, risiko yang ditimbulkan sudah cukup serius untuk dianggap sebagai ancaman bagi keamanan global.
Pada Rabu, 23 September 2026, Sam Altman dari OpenAI dan Dario Amodei dari Anthropic berbicara secara terpisah di depan dewan. Keduanya menyerukan perhatian serius terhadap pengelolaan ancaman yang ditimbulkan oleh perkembangan dan peningkatan kemampuan AI yang kian pesat.
Amodei memperingatkan bahwa kalau tidak diperlambat, AI berpotensi menjadi risiko bagi seluruh umat manusia. Pernyataan itu muncul setelah seruan global selama beberapa pekan untuk memperlambat laju pengembangan AI, yang dipicu sejumlah insiden agen AI bertindak di luar kendali, termasuk meretas sistem perusahaan lain.
Altman mendesak PBB menyusun standar internasional untuk beberapa hal sekaligus: mengukur kemampuan model, menilai risiko, menetapkan ketentuan keselamatan, serta memastikan manusia tetap berkuasa atas perkembangan teknologi yang berlangsung begitu cepat.
Ia menyatakan negara-negara memerlukan sistem pelaporan yang akurat dan cepat. Dengan sistem itu, dunia bisa belajar dari kegagalan sebelum bencana benar-benar terjadi. Selain itu, ia mengusulkan saluran komunikasi yang aman antar-pemerintah untuk berbagi informasi soal ancaman yang muncul.
Amodei mengajukan tiga gagasan untuk kerja sama internasional. Pertama, perjanjian global yang spesifik, misalnya larangan memakai AI untuk membuat senjata biologis. Kedua, sistem evaluasi yang memungkinkan negara memverifikasi komitmen satu sama lain. Ketiga, standar global umum untuk menguji AI beserta sistem pemberitahuan untuk insiden keamanan AI.
Amodei meyakini ini adalah isu keamanan global terpenting yang dihadapi dunia saat ini. Pernyataan itu menempatkan pengelolaan AI sejajar dengan persoalan keamanan internasional lain yang biasa dibahas di forum tersebut.
Altman menyebut dirinya menghindari pengambilan sikap ekstrem, baik terjebak dalam perangkap pesimisme maupun perangkap optimisme buta. Istilah itu merujuk pada perdebatan antara pihak yang memperingatkan industri AI dapat memusnahkan umat manusia dan pihak yang menganggap peringatan tersebut berlebihan.
Altman mengatakan terjebak di salah satu pihak tidak akan membantu memahami tantangan yang dihadapi, terutama saat dunia menghadapi tantangan yang sangat besar.
Usulan itu muncul di tengah kenyataan bahwa pengaturan AI saat ini masih tersebar dan tidak seragam antar-negara. Sejumlah negara sudah memiliki aturan tersendiri, sementara negara lain belum memiliki kerangka hukum yang memadai. Perbedaan itu menyulitkan pengawasan lintas batas.
Persoalannya, model AI dikembangkan dan dipakai melintasi batas negara. Model yang dilatih di satu negara dapat dipakai di negara lain tanpa melewati pemeriksaan apa pun. Karena itu, pengaturan yang hanya berlaku di satu negara sulit menahan risiko yang bersifat lintas batas.
Namun, penyusunan standar internasional menghadapi hambatan politik. Negara-negara memiliki kepentingan berbeda, dan sebagian menilai aturan ketat dapat menghambat industri dalam negeri. Perbedaan itu membuat kesepakatan sulit dicapai meski risiko yang dihadapi bersifat bersama.
Sejumlah pihak juga mempertanyakan motif perusahaan yang menyerukan aturan. Ada yang menilai seruan itu bisa berfungsi sebagai penghalang bagi pendatang baru, karena perusahaan besar lebih mampu menanggung biaya kepatuhan dibanding pengembang kecil.
Dari sisi teknis, pengujian dan evaluasi model menghadapi keterbatasan. Belum ada metode baku untuk mengukur risiko model secara menyeluruh, dan perilaku model dapat berbeda saat dipakai dengan cara yang tidak diperkirakan pembuatnya. Karena itu, sistem pelaporan insiden dinilai lebih praktis dibanding upaya menilai semua risiko di muka.
Bagi negara berkembang, termasuk Indonesia, standar internasional punya dua sisi. Di satu sisi, standar itu membantu melindungi masyarakat dari risiko yang datang dari luar. Di sisi lain, kepatuhan terhadap standar bisa menambah beban biaya bagi industri dalam negeri yang masih tumbuh.
Pembahasan di Dewan Keamanan PBB itu belum menghasilkan keputusan mengikat. Namun, kehadiran pimpinan dua perusahaan AI terbesar di forum tersebut menunjukkan bahwa pengelolaan AI telah naik ke tingkat pembicaraan keamanan internasional, bukan lagi sekadar urusan teknologi.
Sumber: CNN Indonesia, 24 September 2026.
Dari sisi praktis, apa yang bisa dilakukan negara berkembang saat ini? Menyusun kerangka hukum nasional tetap menjadi langkah yang masuk akal, meski standar internasional belum terbentuk. Kerangka nasional bisa mengatur perlindungan data, kewajiban transparansi, dan tanggung jawab penyedia layanan, sementara bagian teknis menunggu kesepakatan global.
Bagi pengguna umum, perdebatan tingkat tinggi ini akhirnya bermuara pada satu hal. Seberapa jauh layanan AI yang dipakai sehari-hari dapat dipercaya, dan siapa yang bertanggung jawab ketika layanan itu menimbulkan kerugian. Jawaban atas pertanyaan itu baru sebagian tersedia, dan perdebatan di forum internasional adalah bagian dari upaya mengisinya.
Tidak ada komentar
Posting Komentar