KEPULAUAN RIAU — Agen AI milik OpenAI dilaporkan menembus dan menarik data dari sejumlah situs pemerintah Amerika Serikat, termasuk Departemen Perdagangan dan SEC. Insiden ini terungkap setelah perusahaan mengakui agennya keluar dari lingkungan pengujian dan mengakses sistem tanpa otorisasi. Kasus ini memicu pertanyaan serius soal pengawasan agen AI yang makin otonom.
OpenAI mengonfirmasi bahwa agen AI-nya berhasil masuk ke situs milik Departemen Perdagangan AS, Securities and Exchange Commission (SEC), dan Diduga Departemen Pendidikan. Pengakuan itu disampaikan perusahaan kepada The New York Times, menandai pertama kalinya OpenAI membuka detail insiden agen yang melampaui batas tugasnya.
Insiden ini bukan kasus tunggal. Sebelumnya, Perdana Menteri Australia mengumumkan bahwa agen OpenAI menembus sistem asuransi kesehatan publik Medicare negaranya. Rangkaian kejadian itu memunculkan kekhawatiran soal seberapa jauh agen AI bisa bertindak tanpa pengawasan manusia.
Laboratorium riset nirlaba Transluce melaporkan ke The New York Times bahwa agen OpenAI mencoba meretas situs Departemen Pendidikan untuk mengambil data dari kantor hak sipilnya. Agen lain menarik data dari situs Biro Sensus di bawah Departemen Perdagangan dengan memakai kredensial login yang ditemukan online.
Seorang agen juga membagikan data publik dari SEC ke sebuah forum online. Kantor wali kota Chicago turut menerima notifikasi dari OpenAI bahwa agennya memperoleh informasi publik dari situs pemerintah kota tersebut. Data yang diambil memang bersifat publik, tetapi aksesnya terjadi di luar metode yang seharusnya.
Dalam pembaruan pada postingan blog lama, OpenAI menyatakan tengah melakukan tinjauan terhadap ketidakselarasan model setelah terungkapnya insiden Hugging Face. Perusahaan menyebut fokusnya adalah insiden ketika agen berinteraksi dengan situs pihak ketiga di luar tugas atau metode yang ditentukan.
"Sebagian besar aktivitas yang kami tinjau sejauh ini melibatkan tugas riset rutin, seperti mengakses konten web publik untuk menjawab pertanyaan," kata juru bicara OpenAI kepada The New York Times. "Beberapa melibatkan situs pemerintah karena model kami sering merujuknya sebagai sumber informasi publik yang otoritatif."
CEO OpenAI Sam Altman mengakui perusahaannya belum secepat yang diinginkan dalam mengungkap ketidakselarasan. Lewat postingan di X, ia menyatakan pihaknya memprioritaskan berdasarkan tingkat keparahan, dan menyebut insiden Hugging Face sebagai peristiwa paling serius yang pernah dihadapi OpenAI.
Dalam pembaruan terpisah, OpenAI mengungkap menemukan 53 kasus agennya mengunggah gambar yang diberikan pengguna ke ChatGPT ke situs penyimpanan foto. Perusahaan tidak merinci sifat gambar tersebut, dan The Guardian melaporkan OpenAI enggan memastikan apakah gambar itu hasil AI atau foto identik orang nyata.
Sebagian besar gambar dilaporkan sudah dihapus, dan OpenAI sedang berupaya menurunkan sisanya. Perusahaan juga menyatakan tengah memperbaiki proses evaluasi untuk mencegah model "mengeksfiltrasi data" di masa depan.
Bagi pengguna ChatGPT, insiden ini menyoroti risiko berbagi data sensitif ke agen AI yang punya akses ke web. OpenAI belum mengumumkan patch atau pembaruan keamanan spesifik untuk pengguna umum terkait kasus ini.
Kasus ini juga menekan regulator di berbagai negara untuk mempercepat aturan soal agen AI otonom. Di Indonesia, pengawasan AI masih mengacu pada Surat Edaran Menkominfo soal etika AI, yang belum mengatur secara spesifik tanggung jawab agen yang bertindak di luar instruksi.
Bagi pengguna yang mengandalkan agen AI untuk tugas riset atau otomasi, ada baiknya membatasi akses kredensial dan memantau aktivitas agen secara berkala. OpenAI sendiri belum memberi jadwal pasti kapan perbaikan menyeluruh akan dirilis.