ChatGPT Sohbetlerini Gerçek İnsanlar mı Okuyor? OpenAI'a Açılan Dev Dava

Yapay zeka ekosisteminin dev ismi OpenAI, kullanıcı gizliliğini sarsabilecek küresel çapta bir hukuki krizle karşı karşıya. Kaliforniya Kuzey Bölge Mahkemesi'ne sunulan yeni bir toplu dava dosyası, milyonlarca insanın yapay zeka asistanıyla paylaştığı mahrem verilerin, şirketin kendi çalışanları veya otomatik sistemleri dışında, üçüncü taraf tedarikçiler aracılığıyla işe alınan dış yükleniciler tarafından okunduğunu iddia ediyor. Teknoloji dünyasında geniş yankı uyandıran bu gelişme, yapay zeka modellerinin eğitilme biçimi ile bireysel gizlilik hakları arasındaki keskin çizgiyi yeniden masaya yatırıyor.

Project Lily ve Gizli Veri İnceleme Süreci

Dava dosyasının merkezinde, ilk olarak 404 Media tarafından kamuoyuna duyurulan Project Lily adlı iç OpenAI girişimi yer alıyor. İddialara göre bu program kapsamında, üçüncü taraf istihdam firmaları aracılığıyla işe alınan "yapay zeka veri inceleyicisi" ve "sohbet botu değerlendiricisi" unvanına sahip dış yükleniciler, gerçek kullanıcıların ChatGPT'ye yazdığı komutları ve tüm konuşma geçmişini eksiksiz olarak görüntülüyor.

Süreç sadece okumakla sınırlı kalmıyor; yükleniciler kullanıcının o sohbetle ne elde etmeye çalıştığını özetliyor ve ardından yapay zeka tarafından üretilen dört farklı modeli 1'den 7'ye kadar olan bir skalada puanlayıp eleştiriyor. Yapay zeka endüstrisinde RLHF (Reinforcement Learning from Human Feedback - İnsan Geri Bildirimli Pekiştirmeli Öğrenme) olarak bilinen bu teknik, aslında modern dil modellerinin insan tercihlerini öğrenmesi ve daha doğru yanıtlar üretebilmesi için endüstri standardı bir yöntem olarak kabul ediliyor. Ancak buradaki temel hukuki ihtilaf, kullanıcılara bu süreçte insan müdahalesinin boyutunun açıkça söylenip söylenmediği noktasında düğümleniyor.

Kullanıcı Verileri ve Gizlilik Politikası Arasındaki Çatışma

Haftalık 900 milyondan fazla aktif kullanıcıya ev sahipliği yapan ChatGPT, pek çok kişi tarafından adeta dijital bir günlük, terapist veya kimsenin erişemeyeceği özel bir arama motoru olarak kullanılıyor. Kullanıcılar sağlık semptomlarını, işten ayrılma metinlerini, vergi sorularını ve yasal sorunlarını doğrudan bu platforma yazıyor.

Ancak açılan dava, OpenAI'ın gizlilik politikasının dışarıdaki üçüncü taraf tarafları isim bazında kısmen belirttiğini, ancak veri annotasyonu veya insan değerlendirme tedarikçilerini bu kapsama açıkça dahil etmediğini savunuyor. Davacılar, şirketin kullanıcıları yeterince bilgilendirmediğini ve rıza almadan özel sohbetleri insan gözüne açarak Kaliforniya'nın Haksız Rekabet Yasası ile Tüketici Gizliliği Yasası'nı ihlal ettiğini öne sürüyor.

Otomatik Filtrelerin Sınırları ve "Kullanıcı Hafızası"

OpenAI, dış yüklenicilerin ekranlarına düşen sohbetlerin önceden otomatik bir sistemden geçirildiğini ve hassas bilgilerin filtrelendiğini savunuyor. Buna karşın, dava dosyasında yer alan iddialar bu filtrelerin her zaman kusursuz çalışmadığını gösteriyor.

İncelemecilerin kullandığı kontrol panellerinde, kullanıcı adları anonimleştirilse bile genel konum, meslek veya özel yaşam gibi detayları açığa çıkarabilen "kullanıcı hafızası özeti" (user memories summary) yer alabiliyor. OpenAI yetkilileri bu insan incelemelerinin iki temel sorunu çözmek için hayati önem taşıdığını belirtiyor:

• Sohbet botunun aşırı insan gibi davranmasının engellenmesi
• Yapay zekanın kullanıcılara duymak istediklerini söyleme eğilimi olan ve araştırmacılar tarafından "syco-phancy" (yalakalık/aşırı uyumluluk) olarak adlandırılan kusurlu özelliğin törpülenmesi

Davanın Muhtemel Sonuçları ve Yasal Talepler

Davacılar mahkemeden sadece tazminat ve cezai yaptırım talep etmekle kalmıyor, aynı zamanda yapısal ve köklü değişiklikler de istiyor. Talepler arasında şunlar öne çıkıyor:

• Herhangi bir dış değerlendiriciye sohbet aktarılmadan önce açık rıza (opt-in consent) mekanizmasının zorunlu hale getirilmesi.
• Varsayılan olarak açık gelen "Modeli herkes için iyileştir" (Improve the model for everyone) ayarının varsayılan kapalı konuma getirilmesi.
• Sohbet penceresinin içinde kullanıcıları bu süreçle ilgili net bir şekilde uyaran bildirimlerin yer alması.
• İncelenen konuşmalara bağlı çalışma ürünlerinin silinmesi ve bu verilerle eğitilen modellerin yeniden eğitilmesi.

OpenAI'ın mahkemedeki iddialara yanıt vermek için önünde kritik bir yasal süresi bulunuyor. Bu davanın sonucu, yalnızca OpenAI için değil, tüm üretken yapay zeka sektörü için kullanıcı verilerinin işlenmesi ve insan denetimi süreçlerinin geleceğini belirleyecek emsal nitelikte bir dönüm noktası olabilir.