Yapay Zekanın Halüsinasyon Tehlikesi Doğaya Sıçradı: Chatbot Önerisiyle Hayatını Tehlikeye Atan Dağcılar

Kuzey Kaliforniya’daki Mount Shasta’nın kayalık ve dik yamaçlarında mahsur kalan üç genç dağcı, gece yarısına doğru arama kurtarma ekiplerini aradığında iş işten geçmek üzereydi. Yetersiz besin stoku, fiziksel kondisyonun yanlış hesaplanması ve zifiri karanlıkta iniş yapma zorunluluğu gibi bir dizi vahim hata zinciri birbirini izlemişti. Ancak kurtarıldıktan sonra verdikleri ifade, modern teknolojinin doğadaki en büyük tehlikelerden birine dönüştüğünü ortaya koydu: Gençler, rotalarını ve zamanlamalarını Google Gemini yapay zeka sohbet robotuna danışarak planlamışlardı.

Mount Shasta Çölü Tırmanış ve Çığ Merkezi (Mount Shasta Wilderness Climbing and Avalanche Center) Yöneticisi Nick Meyers, "Bölgemize hazırlıksız gelen veya hiç araştırma yapmayan insanlara alışkınız. Bu gençler en azından bir şeyler araştırmaya çalışmışlar. Ancak ne yazık ki yapay zekaya güvenip kendi beyinlerini tamamen devre dışı bırakmışlar" ifadeleriyle durumun vehametini özetliyor.

Bu olay, yapay zeka algoritmalarının vahşi doğada yarattığı ilk ya da tek tehlike değil. Dünyanın farklı bölgelerinden gelen raporlar, LLM (Büyük Dil Modeli) mimarilerine dayalı araçların doğa sporcularını nasıl yanlış yönlendirdiğini net bir şekilde gösteriyor.

Google Gemini ve Mount Shasta’da Gerçekleşen Akılalmaz Hatalar

Mount Shasta bölgesinde görev yapan ABD Orman Hizmetleri (US Forest Service) ekipleri, Google Gemini kullanımından kaynaklanan ilginç vakalarla karşılaşmaya devam ediyor. Ekiplerin aktardığına göre, bir ziyaretçi kamp yapmanın kesinlikle yasak olduğunu belirten "No Camping" tabelasının hemen yanına çadır kurdu. Görevlilerin uyarısı üzerine kadın, yapay zekanın kendisine orada kamp yapabileceğini söylediğini iddia ederek hakkını savundu.

Bir başka olayda ise korucular, patika başlangıcında elindeki yapay zeka tarafından üretilmiş haritayla şaşkın halde dolaşan bir adamla karşılaştı. Sohbet robotunun oluşturduğu topoğrafik krokide, dağın en belirgin coğrafi şekilleri tamamen yanlış tarafta gösterilmişti. Google Gemini gibi araçlar metin üretmede son derece başarılı olsalar da, mekânsal veri ve güncel arazi şartları konusunda ciddi mantık hataları (halüsinasyon) yapabiliyor.

Anthropic Claude ve Kanada’daki Helikopterli Kurtarma Operasyonu

Benzer bir hayati tehlike de Kanada’nın Britanya Kolumbiyası bölgesinde yaşandı. Crown Mountain’ın arka tarafındaki Widowmaker Arete kayalığında mahsur kalan 16 yaşındaki bir dağcı, ancak bölgeye sevk edilen bir helikopter mürettebatı tarafından kurtarılabildi. Genç dağcının, zorlu tırmanış rotasını planlarken Anthropic Claude sohbet robotundan tavsiyeler aldığı ortaya çıktı.

Genç dağcı daha sonra sadece Claude’a değil, aynı zamanda Google Maps ve popüler doğa yürüyüşü uygulaması AllTrails verilerine de baktığını belirtse de, yapay zekanın sunduğu aşırı özgüvenli ve iyimser tavsiyelerin karar alma mekanizmasını bozduğu ifade edildi. Olay, Kuzey Amerika basınında geniş yankı uyandırırken arama kurtarma uzmanlarını harekete geçirdi.

Wyoming’deki Grand Teton Ulusal Parkı Müdürü Chip Jenkins ise parka gelen ziyaretçilerin gezi bilgilerini yapay zekadan alma oranının son bir yılda radikal bir şekilde arttığını vurguluyor: "Yapay zeka kullanım oranı %0'dan %26'ya fırladı. Ve bu ivmenin yavaşlayacağını hiç sanmıyorum."

Bilişsel Teslimiyet: Yapay Zeka Neden İnsan Aklını Devre Dışı Bırakıyor?

Clemson Üniversitesi’nde insan odaklı bilişim üzerine araştırmalar yapan Prof. Chris Flathmann, bu tehlikeli durumu "bilişsel teslimiyet" (cognitive surrender) kavramıyla açıklıyor. İnsanların yapay zeka sistemleriyle etkileşime girdiklerinde eleştirel düşünme yetilerini aşamalı olarak kaybettiğini belirten Flathmann, şu değerlendirmede bulunuyor:

• Aşırı Güven ve Otorite İllüzyonu: Yapay zeka modelleri, sundukları bilginin doğruluğundan bağımsız olarak son derece ikna edici, otoriter ve kesin bir dille yanıt verir.
• Uzmanlık Eksikliği: Kullanıcı, tırmanacağı dağ veya gireceği rota hakkında derin bir bilgiye sahip değilse, yapay zekanın uydurduğu sahte detayları (BS) ayırt edemez.
• Kısıtlı Veri Kaynakları: OpenAI ChatGPT, Anthropic Claude veya Google Gemini gibi araçlar; soruları yanıtlarken Reddit tartışma başlıklarından, tarihi geçmiş YouTube videolarından veya doğrulanmamış blog yazılarından veri kazır (scraping). Bu verileri harmanlayarak mantıklı görünen ancak hayati hatalar içeren öneriler sunabilirler.
• Stres Altında Yanılsama: Doğada zor bir durumda kalındığında, yapay zekanın sağladığı yanlış yönlendirmeyi fark edip sıfırdan doğru kararlar almak psikolojik olarak çok daha zordur.

Prof. Flathmann, Instagram veya TikTok gibi platformların kullanıcılara yalnızca "ilham" verdiğini, ancak yapay zekanın doğrudan "talimat" ve "teşvik" sunduğunu belirtiyor. Bu durum, kullanıcının tehlikeli bir eyleme girişmesini kolaylaştırıyor.

Algoritma İllüzyonuna Karşı Hayatta Kalma Kılavuzu

Arama kurtarma gönüllüsü ve hukukçu Jim Moss, son yirmi yılda medyanın insanları doğaya yönlendirme konusunda büyük bir baskı kurduğunu, ancak teknoloji geliştikçe risklerin şekil değiştirdiğini ifade ediyor. 10 yıl önce Google Maps navigasyon hataları veya Instagram'da görülen tehlikeli fotoğraf noktaları insanları riske atarken, bugün diyalog bazlı yapay zekalar bu görevi üstlenmiş durumda.

Vahşi doğaya çıkmayı planlayan doğaseverlerin ve sporcuların alması gereken hayati önlemler ise şöyle sıralanıyor:

1. Resmi Kaynakları Esas Alın: Park hizmetleri (National Park Service/US Forest Service gibi), yerel dağcılık kulüpleri ve resmi kamu haritaları dışındaki yapay zeka çıktılarını asla tek bilgi kaynağı olarak kullanmayın.
2. İnsan Faktörünü Unutmayın: Bölgeyi iyi bilen bir rehberle, park korucularıyla veya alanında uzman yerel dağcılarla yüz yüze ya da doğrudan iletişim kurun.
3. Fiziki Harita ve Pusula Taşıyın: Dijital cihazların pili bitebilir, GPS sinyali kaybolabilir ve sohbet robotları hatalı topoğrafya üretebilir. Geleneksel navigasyon araçlarını kullanmayı öğrenin.
4. Kendi Kritik Düşüncenizi Korumak: Yapay zeka size "Bu rotayı 4 saatte tamamlarsınız" dese bile, hava şartlarını, kendi kondisyonunuzu ve gün batımı saatini bağımsız olarak hesaplayın.

Mount Shasta Wilderness ekibinden Nick Meyers'ın vurguladığı gibi: "Eğer sizi öldürme potansiyeli olan yerlere gidiyorsanız, planlama işini ciddiye almak zorundasınız." Yapay zeka kullanışlı bir asistan olabilir; ancak hayatınızı teslim edeceğiniz bir dağ rehberi değildir.