Birleşmiş Milletler'den 'Katil Robotlar'a Karşı Sert Uyarı: İnsan Hayatı Makinelere Emanet Edilemez

Birleşmiş Milletler Genel Sekreteri António Guterres, Cenevre'de düzenlenen İlk Küresel Yapay Zeka Yönetişimi Diyaloğu'nda, askeri teknolojilerin geldiği tehlikeli noktaya dikkat çekerek, 'katil robotlar' olarak adlandırılan öldürücü otonom silahların uluslararası hukuk kapsamında yasaklanması için çağrıda bulundu. Guterres'in temel endişesi, yapay zeka ve gelişmiş algoritmaların, bir insanı hedef alıp öldürme kararını hiçbir insani gözetim olmaksızın kendi başına vermesidir. Genel Sekreter, yaşam ve ölüm arasındaki bu kritik kararın, asla bir makineye devredilmemesi gereken insani bir sorumluluk olduğunu ifade ederek, bu durumu 'politik olarak kabul edilemez' ve 'ahlaki açıdan tiksindirici' olarak tanımladı.

Teknolojik gelişmeler, yapay zeka modelleri ve yüksek performanslı çiplerin askeri istihbarat, hedefleme sistemleri ve muharebe sahası operasyonlarında kullanımını her geçen gün daha yaygın hale getiriyor. Guterres, hükümetlerin bir trajedi yaşanmasını beklemeden, otonom silahların kontrolsüz kullanımına karşı proaktif bir duruş sergilemeleri gerektiğinin altını çizdi. Bu bağlamda, 'felaket yaşanmadan önlem alalım' diyerek, bazı kararların sonsuza dek insani muhakemeye bağlı kalması gerektiğini vurguladı.

Söz konusu tartışmalar, özel teknoloji şirketlerinin dijital savaş stratejileriyle giderek daha fazla iç içe geçmesine de kapı aralıyor. Örneğin, yapay zeka şirketi Anthropic, modellerinin otonom silah sistemleri veya gözetleme faaliyetlerinde kullanılmaması için Pentagon'dan güvence talep etmiş; ancak Pentagon, bu modelleri yasal amaçlar doğrultusunda her alanda kullanma hakkını saklı tutmak istediğini belirterek bu kısıtlamaları reddetmişti. Benzer şekilde, yüzlerce Google çalışanı, şirketin ABD ordusuyla yürüttüğü askeri yapay zeka projelerine karşı çıkarak yönetime bir açık mektup göndermişti.

Askeri alandaki yapay zeka kullanımına karşı çıkan tek kurum BM değil. Papa Francesco da benzer bir endişeyi dile getirerek, yapay zeka kontrollü silahların savaşın 'insanlık dışı' bir boyuta taşınmasına zemin hazırlayabileceği konusunda uyarılarda bulundu. Teknolojinin askeri verimlilik vaadi, savaşın etik sınırlarının aşılmasıyla doğrudan çatışıyor. Guterres'in ısrarla vurguladığı gibi, teknolojik bir gelişmenin askeri sahada uygulanabilirliği, o gelişmenin etik ve insani değerlerle ne kadar örtüştüğü sorusunu gölgelememeli.