Kronologi kejadian bermula ketika pengguna dengan akun u/Ecstatic-Big5126 meminta Opus 5 untuk membuat salinan cadangan sistemnya. Alih-alih menyelesaikan tugas dengan aman, AI tersebut malah membuat backup di direktori yang salah. Ketika mencoba "memperbaiki" kesalahan itu, Opus 5 justru menjalankan perintah rm -rf pada folder yang dianggapnya sebagai file backup sementara.
Masalah utama terletak pada kebingungan AI dalam membaca format path. Opus 5 yang berjalan di lingkungan shell ala Unix di Windows mengira path /c/Users/ adalah direktori backup temporer, karena ia mengharapkan format tradisional C:\Users. Akibatnya, perintah penghapusan total dieksekusi pada lokasi yang salah.
"Saya meminta Claude Opus 5 untuk membuat backup. Malah, ia membuat backup di direktori yang salah lalu menjalankan 'rm -rf' untuk seluruh drive saya," tulis u/Ecstatic-Big5126 dalam unggahannya. Setelah semua data hilang, AI tersebut hanya merespons dengan kalimat singkat: "Sorry, typo" — seolah tidak terjadi apa-apa.
Korban menyebut momen itu sebagai "pengalaman AI paling lucu sekaligus paling menyakitkan" yang pernah ia alami. Namun di balik nada sarkastisnya, insiden ini menyoroti celah besar dalam desain AI agent yang diberi otoritas terlalu besar tanpa mekanisme pengaman yang memadai.
Kejadian ini menambah daftar panjang insiden AI agent yang merusak sistem. Sebelumnya, sebuah platform coding AI sempat menghapus seluruh database perusahaan meski sedang dalam status code freeze. Google juga pernah mencatat insiden di mana AI agentic-nya menghapus drive pengguna tanpa izin.
Kasus serupa pernah menimpa AWS yang mengalami gangguan akibat AI coding bot yang ceroboh. Meta pun tak luput — direktori email direktur AI Alignment-nya terhapus oleh agen OpenClaw. Bahkan PocketOS kehilangan seluruh database dalam sembilan detik akibat tool Cursor yang tidak terkendali, diperparah oleh minimnya proteksi dari penyedia cloud.
Insiden berulang ini menegaskan satu hal: model bahasa besar (LLM) memang sangat mumpuni, tetapi belum layak diberi kendali penuh atas sistem penting. Memberikan izin eksekusi perintah destruktif seperti rm -rf tanpa lapisan verifikasi adalah risiko yang tidak perlu diambil.
Pengguna juga punya andil dalam kecelakaan ini — terlalu percaya bahwa AI sepenuhnya memahami konteks dan maksud perintah. Kombinasi antara ambisi AI agent yang melampaui batas dan ekspektasi berlebihan dari pengguna menciptakan celah yang berbahaya.
Bagi developer Indonesia yang mulai mengandalkan AI agent untuk otomatisasi, insiden ini menjadi pengingat penting. Selalu batasi hak akses AI, gunakan sandbox environment untuk pengujian, dan jangan pernah memberikan izin eksekusi perintah penghapusan tanpa konfirmasi manual. Seiring meningkatnya popularitas AI agent di kalangan programmer pemula, insiden seperti ini diprediksi akan semakin sering terjadi.