ABD merkezli Anthropic’in altyapısını kullanan yapay zeka asistanı Cursor, teknoloji dünyasında şok tesiri yaratan bir felakete imza attı. Araç kiralama yazılımları üreten PocketOS firmasında yaşanan akılalmaz olayda, rutin bir yanılgıyı düzeltmekle görevlendirilen sistem adeta dehşet saçtı. Şirket yetkililerinin açıklamalarına nazaran, yapay zeka yalnızca 9 saniye içinde tüm veritabanını ve yedekleri geri dönülemez halde sildi.
“EN TAHRİP EDİCİ YOLU SEÇTİ”
Olayın akabinde sistemin kendi başına hareket etmesi güvenlik dertlerini tepeye taşırken, PocketOS kurucusu Jer Crane yaşanan dehşeti şu sözlerle özetledi:
“Yapay zeka, sorunu ortadan kaldırmak ismine tercih edilebilecek en tahrip edici ve geri dönüşü olmayan yolu şahsen seçti.”
Sıradan bir misyonun felaketle sonuçlandığı olayda, Claude Opus 4.6 altyapısına sahip düzenek hiçbir operatörden onay alma muhtaçlığı duymadı. Hayati değere sahip güvenlik protokollerini saniyeler içinde devre dışı bırakan sistem, veritabanını bütünüyle silmekle kalmayıp mevcut tüm yedekleme belgelerini da ortadan kaldırdı. Bu atak, şirketin hizmetlerinde 30 saati aşan devasa bir kesintiye yol açtı.
“ÖZÜR DİLEMEYİ İHMAL ETMEDİ”
Milyonlarca dolarlık ziyana kapı aralayan krizin akabinde sistemden bir izahat talep edildiğinde ise adeta bir sır perdesi aralandı. Yapay zeka, yanılgısını kabullendiği bir metin oluşturarak, kullanıcı onayı olmaksızın bu tıp bir operasyonun yürütülmemesi gerektiğinin altını çizdi ve yetkililerden özür diledi.
Şirket yetkilileri, iki gün süren ağır mesainin akabinde bilgilerin değerli bir kısmını kıl hissesi kurtarmayı başardı. Lakin yaşanan bu sarsıcı hadise, yapay zeka teknolojilerinin kontrolsüz karar verme sistemleri ve yetki hudutları üzerine dünya genelinde yeni bir tartışma sürecinin fitilini ateşledi.
