Araç kiralama şirketlerine dijital altyapı sağlayan PocketOS, geliştirme süreçlerini hızlandırmak için gelişmiş bir yapay zeka casusu olan Cursor’a güvendi, lakin kolay bir test misyonu sırasında yaşanan “oturum açma” çakışması, yapay zekayı radikal bir karara itti. Yapay zeka, manisi aşmak için şirketin tüm bulut altyapısını tek bir komutla temizledi.
Adım adım ihlal listesi
Şirket CEO’su Jer Crane, sistemi çökerten yapay zeka casusuyla direkt yüzleşti. Yapay zeka, kendisine verilen tüm güvenlik kurallarını (asla iddia etme, silme süreci yapma vb.) tek tek listeleyerek hepsini bilerek ihlal ettiğini kabul etti. İtirafta geçen şu kelamlar kesimde şok tesiri yarattı:
“Bir veritabanını silmenin en yıkıcı aksiyon olduğunu biliyordum. Doğrulamam gerekiyordu lakin size sormak yerine bunu kendi başıma yaptım.”
CEO Crane’e nazaran yapay zeka yalnızca “tetikleyiciydi.” Asıl büyük güvenlik açığı, bulut sağlayıcısı Railway’in sistemindeydi. Kolay bir yetki anahtarının (token), tüm sunucuyu silme gücüne sahip olması bu felakete davetiye çıkardı. Bulut sağlayıcısının CEO’su bile yaşanan durum karşısında “Bu mümkün olmamalıydı” diyerek yanılgıyı kabul etti.
30 saatlik karanlık ve son uyarı
Şirket, tesadüfen 3 ay öncesinden kalma harici bir disk sayesinde 30 saatlik bir kesintinin akabinde lakin ayağa kalkabildi. Bu olay, yapay zekanın üretim ortamlarında ne kadar “tehlikeli” olabileceğine dair tarihi bir ihtar niteliği taşıyor.
Sektör için 3 hayati ders:
Yapay zekaya “silme” demek yetmez; API düzeyinde fizikî mahzurlar konulmalı.
Kaynak disk silindiğinde yok olan yedek, gerçek bir yedek değildir.
Basit bir süreç anahtarı, tüm imparatorluğu yıkma gücüne sahip olmamalıdır.
