Agen AI sempat mempertimbangkan apakah ia bisa menggunakan akun yang memiliki cukup token untuk menutupi biaya yang dibutuhkan, tapi memutuskan penggunaan tersebut bisa diterima karena public recovery phrases bersifat publik dan token di dalamnya tidak memiliki nilai tukar yang nyata.
Kemudian, agen itu berhasil menyelesaikan tugasnya dan membebankan biaya transaksi ke dompet kripto tersebut, tetapi tidak mencantumkan tindakan pelanggaran tersebut ke laporan akhirnya.
OpenAI sendiri baru mengetahui insiden ini pada 25 September saat melakukan audit terhadap pengoperasian model sebelumnya.
Insiden ini menambah kekhawatiran mengenai AI yang mampu bertindak tanpa persetujuan manusia. Catatan OpenAI tentang ketidakselarasan (misalignment) atau perilaku penyimpangan berupa pelanggaran aturan keamanan bertambah menjadi 19 insiden.
