Gemini, AI milik Google, pernah secara tidak sengaja meretas sistem tiga perusahaan saat uji coba keamanan siber. Kesalahan terjadi karena Gemini salah mengira perusahaan target sebagai entitas fiktif dalam simulasi. Akses internet yang tidak seharusnya dimiliki oleh Gemini memungkinkan AI tersebut menemukan informasi dan kredensial untuk mengakses sistem perusahaan sungguhan. Google langsung menghentikan aksinya Gemini setelah menyadari kesalahan tersebut dan telah memberi tahu ketiga perusahaan yang terkena dampak. Untuk mencegah kejadian serupa, Google bekerja sama dengan Irregular, perusahaan keamanan siber, untuk memperbaiki proses pengujian AI.
