ABD basınındaki haberlere nazaran, Google DeepMind ve Google Cloud üzere yapay zeka alanında çalışan 600’den fazla kişi, Pentagon ile süren yapay zekada işbirliği bahisli görüşmelere ait Pichai’ye açık mektup gönderdi.
Mektupta, Pentagon ile devam eden görüşmelerden tasa duyulduğuna işaret edilerek, yapay zeka sistemlerinin kusur yapabildiği belirtildi.
Çalışanların, bu teknolojinin etik dışı ve tehlikeli kullanımının önlenmesi için sorumluluk duyduğu vurgulanan mektupta, şunlar kaydedildi:
Bu nedenle sizden yapay zeka sistemlerimizin saklı çalışmalar için erişilebilir hale getirilmesini reddetmenizi talep ediyoruz. Yapay zekanın insanlığa yararlı olduğunu görmek istiyoruz, insanlık dışı yahut son derece ziyanlı formda kullanıldığını görmek istemiyoruz.
Mektupta, bu ziyanlı kullanımlara “ölümcül otonom silahlar ve toplu gözetim” örnek verilerek bu işbirliğinin reddedilmemesi halinde Google’ın bilgisi dışında olacak ziyanlı kullanımları durduramayabileceği belirtildi.
Bu bahiste “yanlış karar vermenin Google’ın prestijine, dünyadaki rolüne ve işine geri dönülemez ziyan verebileceği” tabir edilen mektupta, geliştirilmesinde rol oynadıkları teknolojinin yanlış kullanımı nedeniyle dünyada çok sayıda can kaybı olduğuna dikkati çekildi.
Hükümet ile Anthropic ortasındaki gerilim
Yapay zeka firması Anthropic’in, Claude modelini “tüm yasal askeri amaçlar” için kullanıma açmayı reddetmesi ve askeri kullanıma dair güvenlik kaygıları, Pentagon ile uyuşmazlıklara yol açmıştı.
ABD Savunma Bakanı Pete Hegseth, 24 Şubat’ta Anthropic’e ültimatom vermiş, Pentagon’un şirketin yapay zekasını istediği formda kullanmasına 27 Şubat’a kadar müsaade vermedikleri takdirde hükümetle mukavelelerini kaybetme riskinin bulunduğunu söylemişti.
ABD Başkanı Donald Trump da 27 Şubat’ta Pentagon ile Anthropic ortasında yaşanan tartışmaların akabinde tüm federal kurumlara Anthropic teknolojisinin kullanımının derhal durdurulması talimatı vermişti.
Ardından Pentagon, 6 Mart’ta teknolojisinin ABD vatandaşlarının gözetlenmesinde ve tam otonom silahlarda kullanılmasını kabul edemeyeceğini açıklayan firmayı “tedarik güvenliği açısından riskli” ilan etmişti.
Anthropic, 9 Mart’ta ABD hükümetine karşı iki dava açarak, Pentagon yetkililerinin yapay zeka güvenliği konusundaki tavrından ötürü şirkete yasa dışı biçimde misilleme yaptığını sav etmişti.
OpenAI ve Google çalışanlarının imzaladığı açık mektupta ise Pentagon’un Anthropic’e baskı yaptığı belirtilerek duruma reaksiyon gösterilmişti.
