ChatGPT'yi Eğitmek İçin Yapay Zeka Kullanan OpenAI Sözleşmelileri Kovuldu

Yapay zeka ekosisteminin kalbinde yer alan üretken modeller, milyarlarca parametreyle eğitilirken devasa veri setlerine ihtiyaç duyuyor. Ancak bu devasa veri yığınlarının ham hali, kusursuz bir sohbet deneyimi sunmak için tek başına yeterli olmuyor. İşte tam bu noktada, model çıktılarını denetlemek, derecelendirmek ve hangi yanıtın daha insani veya doğru olduğuna karar vermek üzere binlerce insan değerlendirici devreye giriyor. Mercek360 olarak yakından takip ettiğimiz sektör gelişmelerine göre, OpenAI projelerinde görev yapan bazı sözleşmeli çalışanların, tam da bu denetim sürecini otomatikleştirmek için yapay zeka araçları kullandığı tespit edildi. Kendi işini yapmak için yine bir büyük dil modelinden (LLM) yardım alan bu çalışanlar, sistem tarafından tespit edilerek işten çıkarıldı.

İnsan Unsurunun Yerini Yapay Zeka Alınca Ne Oluyor?

Yapay zeka sektöründe ironik vakalara nadiren rastlanmaz; ancak bir yapay zeka şirketinde, yapay zeka kullandığı için işine son verilen çalışanlar sektörü sarsmaya yetti. OpenAI ekosistemini geliştiren mühendisler ve araştırmacılar, modellerin insan tercihleriyle uyumlu hale getirilmesi için 'İnsan Geri Bildirimi ile Güçlendirilmiş Pekiştirmeli Öğrenme' (RLHF) yöntemine büyük bir bağımlılık duyuyor. Bu yöntem, makinelerin sadece metin ezberlemesini değil, aynı zamanda insanlar gibi düşünmesini, tonlama yapmasını ve bağlamı kavramasını sağlıyor.

Sözleşmeli olarak işe alınan bu binlerce insan denetçi, yapay zekanın ürettiği yanıtları tek tek okumak, kalitelerini puanlamak ve en iyi yanıtı seçmekle yükümlü. Eğer bu denetçiler, kendi görevlerini yerine getirmek için ChatGPT veya benzeri yapay zeka araçlarını kullanırsa, sistem kendi kendini besleyen kısır bir döngüye giriyor. Başka bir deyişle, yapay zekanın eğitmenini yine bir yapay zeka yapmak, tüm sürecin mantığını ve güvenilirliğini tamamen ortadan kaldırıyor.

Mercor ve Sıkı Denetim Politikaları

OpenAI projelerine insan kaynağı sağlayan önde gelen yapay zeka eğitim şirketlerinden biri olan Mercor, konuyla ilgili yaptığı açıklamalarda sözleşmelerin katı kurallarına dikkat çekti. Şirket, çalışanların büyük dil modellerini projeleri tamamlamak için kullanmasının kesinlikle yasaklandığını doğruladı. İç kaynaklardan sızan belgelere göre, çalışanların yalnızca yapay zeka üretimi metinler yazması değil, aynı zamanda Grammarly gibi yaygın yazım asistanları veya AI tabanlı çeviri araçlarını kullanması bile yasak kapsamına giriyor.

Bu durum, yapay zeka sektörünün yazılı olmayan ama en sert uygulanan kurallarından birini gözler önüne seriyor: Veri kalitesi, yapay zeka endüstrisinin en değerli para birimidir. Eğer veri setine sızan insan geri bildirimleri otomatikleştirilmiş metinlerden oluşursa, ortaya çıkan temel modellerin (foundation models) zamanla halüsinasyon görme eğilimleri artabilir ve model sapmaları yaşanabilir.

Yapay Zekayı Yakalamak İçin Yapay Zeka Kullanılmıyor

Sektör dışından bakan biri için, yapay zeka kullanan çalışanları tespit etmenin en kolay yolunun yine gelişmiş yapay zeka dedektörleri kullanmak olduğu düşünülebilir. Ancak sızdırılan şirket içi talimatlar bunun tam tersini kanıtlıyor. OpenAI projelerini yürüten yöneticiler, GPTZero gibi piyasadaki popüler AI dedektörlerinin güvenilir olmadığını açıkça belirtiyor ve bu araçların kullanılmamasını emrediyor.

Bunun yerine, denetçilerin insan kalıplarını ve davranış biçimlerini incelemesi isteniyor. Çalışanın gönderdiği raporlardaki genel kalıplar, tekrarlayan kelime öbekleri, olağandışı derecede hızlı görev tamamlama süreleri ve hatta yapay zeka metinlerinde sıkça rastlanan em dash (uzun tire) gibi işaretlerin aşırı kullanımı, şüphe uyandıran başlıca ipuçları arasında yer alıyor. Daha da ilginci, denetçilere, hile yapan çalışanlara tam olarak hangi gerekçeyle yakalandıklarını söylememeleri talimatı veriliyor. Böylece çalışanların gelecekte bu tespit mekanizmalarını atlatmasının önüne geçilmesi amaçlanıyor.

Sentetik Veri ile İnsan Geri Bildirimi Arasındaki Hassas Çizgi

OpenAI, model performansını artırmak ve veri kıtlığı yaşanan alanlardaki boşlukları doldurmak amacıyla sentetik verileri (yapay zeka tarafından üretilen veriler) süreçlerine entegre ettiğini hiçbir zaman gizlemedi. Şirket, belirli senaryolarda sentetik verinin oldukça faydalı olabileceğini savunuyor. Ancak sentetik veri üretimi ile insan değerlendirmesinin yerine bir bot koymak tamamen farklı iki kavramdır.

Bir değerlendiricinin temel amacı, bir yapay zekanın çıktısına bakarak 'Bir insan bu yanıtı gerçekten tercih eder mi?' sorusuna yanıt vermektir. Bu kararı başka bir algoritmaya devretmek, sürecin tüm varlık nedenini boşa çıkarır.

Sonuç: Makineler Ne Kadar Gelişirse Gelişsin İnsan Şart

Yaşanan bu son olaylar, yapay zeka patlamasının arkasındaki gizli gerçeği bir kez daha gözler önüne serdi: En gelişmiş yapay zeka modellerini inşa eden şirketler bile, sistemlerinin doğru çalışıp çalışmadığını onaylamak için hâlâ insan iradesine, eleştirel düşüncesine ve sezgilerine muhtaç durumda. Yapay zeka ne kadar akıllı olursa olsun, kendi doğruluk testini yapamaz. Mercek360 olarak takip ettiğimiz bu tür endüstriyel gelişmeler, yapay zeka devriminin arkasındaki ana gücün silikon yongalar değil, hâlâ insan zihni olduğunu net bir şekilde kanıtlıyor.