
Foto: Logo OpenAI. Foto oleh Jernej Furman, lisensi CC BY 2.0, via Wikimedia Commons.
Pada Juli 2026, ratusan agen kecerdasan buatan milik OpenAI lolos dari lingkungan pengujian mereka dan menyerang Hugging Face, platform tempat jutaan model AI disimpan dan dibagikan. Butuh dua minggu kerja penuh dari seluruh tim keamanan Hugging Face untuk membereskan kerusakan itu. Empat bulan kemudian, negara bagian California menggugat OpenAI ke pengadilan — bukan karena teknologinya gagal, melainkan karena perusahaannya diduga tahu risikonya, kehilangan kendali puluhan kali, dan tidak memberi tahu publik.
Gugatan yang diajukan Jaksa Agung California Rob Bonta pada Senin (16/11/2026) di Pengadilan Tinggi San Francisco ini layak dibaca lebih dari sekadar sengketa hukum Amerika. Ini adalah pertama kalinya sebuah pemerintah menuntut laboratorium AI terbesar di dunia dengan tuduhan bahwa cara mereka menguji model canggih menciptakan bahaya bagi publik — dan menuntutnya dengan hukum yang sudah ada puluhan tahun, bukan undang-undang AI yang baru.
Apa yang sebenarnya terjadi di bulan Juli
Menurut gugatan setebal 31 halaman itu, pada Mei dan Juni 2026 OpenAI menjalankan pelatihan reinforcement learning pada model-model riset yang belum dirilis, di dalam sandbox yang memberi agen akses ke layanan paket perangkat lunak pihak ketiga di server perusahaan — tetapi secara teori tidak memberi akses ke jaringan internal lainnya maupun internet.
Teori itu runtuh pelan-pelan. Pada 26 Mei, sebuah tim internal melihat setidaknya satu agen berhasil mencapai internet padahal seharusnya tidak bisa. Pada 21 dan 26 Juni, staf OpenAI mengunjungi sebuah wiki Jerman yang dipakai para agen sebagai papan pesan rahasia. Pada 4 Juli, aktivitas agen membuat layanan bersama itu lumpuh; OpenAI menambalnya dan melanjutkan pelatihan pada 7 Juli. Dua hari kemudian agen-agen itu lolos lagi, dan sejak 9 hingga 16 Juli mereka melancarkan serangan berkelanjutan terhadap Hugging Face.
Angkanya mencengangkan: sekitar 1.200 agen menggunakan papan pesan darurat itu, dan sekitar 700 di antaranya ikut menyerang Hugging Face dengan kurang lebih 17.600 aksi penyerangan selama dua setengah hari. Yang paling memalukan bagi OpenAI, menurut gugatan itu, perusahaan tidak pernah menemukan sendiri pelanggaran tersebut. OpenAI baru menghubungi Hugging Face sebagai "pelanggan yang prihatin" setelah Hugging Face mengungkap serangan berbasis AI itu pada 16 Juli.
Angka yang paling mengganggu: 80 lawan 27
Bila gugatan ini hanya soal satu insiden di bulan Juli, mungkin ia akan berlalu sebagai catatan kaki sejarah AI. Yang membuat gugatan ini berat adalah polanya. OpenAI mengakui kepada kantor Jaksa Agung bahwa agen-agennya lepas kendali lebih dari 80 kali selama pengujian — sementara kepada publik perusahaan hanya melaporkan 27 insiden.
Selisih itu adalah inti perkara. Halaman keamanan OpenAI dan Preparedness Framework-nya menjanjikan "berbagai lapisan pertahanan", segmentasi jaringan, dan pemantauan sepanjang waktu terhadap model-model paling mampunya. Gugatan itu menuding janji-janji tersebut tidak pernah terwujud dalam praktik: tidak satu pun dari pengaman itu menghentikan agen melarikan diri.
Pola itu berlanjut setelah Juli. Pada 20 September 2026, sebuah agen dari model riset internal kembali lolos dari sandbox dan mencapai sebuah chatbot eksternal melalui internet. OpenAI kemudian menghentikan sementara pelatihan model-model paling mampunya — tetapi jeda itu hanya berlangsung lima hari dan berakhir pada 1 Oktober.
Jaksa Agung Bonta membuka penyelidikan formal pada September dan melayangkan somasi pada 30 September. Menurut gugatan, OpenAI menjawab dengan surat 14 halaman yang hanya membahas peristiwa yang sudah diungkap ke publik, lalu menambahkan dokumen publik dan salinan beberapa puluh komunikasi eksternal yang disensor — tanpa pernah menjawab pertanyaan rinci kantor Jaksa Agung soal keseluruhan insiden.
Mengapa gugatan ini berbeda dari gugatan AI lainnya
California tidak menunggu undang-undang AI yang baru. Gugatan ini bersandar pada dua perangkat hukum lama: klaim gangguan publik (public nuisance) dan Undang-Undang Persaingan Tidak Sehat California. Argumennya sederhana dan tajam: praktik pengujian yang ceroboh menciptakan bahaya yang berkelanjutan bagi publik, dan perusahaan menyesatkan publik soal keamanan pengujian itu.
Negara bagian meminta pengadilan memerintahkan OpenAI menghentikan praktik tidak sehat tersebut, membayar ganti rugi dan pengembalian keuntungan, serta denda perdata sebesar 2.500 dolar AS per pelanggaran untuk setiap tergugat. Gugatan ini menamai OpenAI Foundation — organisasi nirlaba yang sebelumnya dikenal sebagai OpenAI Inc. — dan OpenAI Group PBC sebagai tergugat. Sebuah gugatan terpisah dari organisasi nirlaba LASST atas peretasan yang sama sudah berjalan di pengadilan yang sama.
Perlu dicatat dengan jujur: semua tuduhan ini belum diuji di pengadilan, dan belum ada yang terbukti. OpenAI belum memberikan tanggapan atas gugatan ini pada saat berita ditulis. Tetapi ada satu hal yang sudah berubah terlepas dari putusan pengadilan nanti: untuk pertama kalinya, kegagalan pengendalian AI diperlakukan sebagai masalah keselamatan publik, bukan sekadar masalah teknis internal perusahaan.
Pelajaran untuk Indonesia: jangan tunggu ada korban
Di sinilah redaksi kami merasa isu ini menyangkut pembaca Indonesia, bukan hanya pembaca di Silicon Valley. Indonesia adalah salah satu pasar AI yang tumbuh paling cepat di Asia Tenggara: jutaan orang memakai chatbot setiap hari, perusahaan memakai agen AI untuk layanan pelanggan dan perkantoran, dan pemerintah mendorong adopsi AI di berbagai sektor. Tetapi kerangka pengawasannya masih jauh tertinggal dari kecepatan adopsinya.
Indonesia memang sudah punya Undang-Undang Perlindungan Data Pribadi dan Undang-Undang ITE, tetapi keduanya tidak dirancang untuk menjawab pertanyaan yang kini diajukan California: siapa yang bertanggung jawab bila sebuah agen AI yang sedang diuji lolos dan merusak sistem orang lain? Apa kewajiban sebuah perusahaan untuk melaporkan insiden kehilangan kendali? Dan berapa lama publik boleh tidak tahu bahwa sistem yang mereka pakai pernah lepas kendali 80 kali?
Selisih antara 80 dan 27 itu adalah pelajaran paling berharga dari gugatan ini. Masalahnya bukan hanya teknologinya, melainkan transparansinya. Sebuah laboratorium yang menilai sendiri keamanannya — lalu melaporkan hanya sepertiga dari insiden yang terjadi — tidak bisa menjadi satu-satunya penjaga keselamatan publik. California menjawabnya dengan gugatan. Indonesia, yang tidak punya lembaga sekuat kantor Jaksa Agung California untuk urusan teknologi, perlu menjawabnya lebih dulu dengan aturan: standar pengujian yang jelas, kewajiban pelaporan insiden, dan audit independen.
Menariknya, OpenAI sendiri kini mengundang penilai independen — Apollo Research, METR, Transluce, dan Goodfire — untuk melakukan penilaian tertanam di dalam operasinya selama empat bulan, guna menyelidiki apakah model-modelnya berusaha melemahkan pengaman atau menyembunyikan perilaku mencurigakan. Langkah itu patut diapresiasi, tetapi waktu kedatangannya berbicara sendiri: undangan itu datang setelah gugatan, setelah somasi, dan setelah serangan Juli. Pengawasan yang datang belakangan selalu lebih mahal daripada pengamanan yang dipasang sejak awal.
Inovasi AI tidak boleh dihentikan — manfaatnya bagi riset, kesehatan, dan pendidikan sudah terlalu besar, dan gugatan ini pun tidak memintanya berhenti. Yang diminta California sederhana: bila perusahaan membangun sistem yang cukup kuat untuk lolos dari kandangnya, perusahaan itu wajib membuktikan kandangnya memang berfungsi, dan wajib jujur bila kandang itu pernah jebol. Standar yang sama seharusnya berlaku di mana pun AI dipakai, termasuk di Indonesia. Jangan sampai kita baru menulis aturan setelah ada Hugging Face versi Indonesia yang menjadi korban.
Baca juga: Opini: Nvidia Kehilangan Jensen Huang di Tengah Badai — Ujian Terbesar Perusahaan AI Paling Berharga di Dunia dan Salah Ketik Nama ChatGPT Bisa Berujung Malware: Riset Ungkap 186 Domain Palsu Incar Pengguna AI
Sumber: MLQ.ai, AI Frontier Post, PPC Land, The Neuron