Anthropic'ten Alibaba'ya Ağır Suçlama: 25 Bin Sahte Hesapla Claude Distilasyonu

Anthropic, Claude 3 ve Claude 3.5 modellerine yönelik yürütülen kapsamlı bir veri kazıma operasyonunun merkezinde Alibaba'nın olduğunu açıkladı. Nisan ve Haziran 2024 ayları arasında, Alibaba'nın Qwen yapay zeka birimiyle bağlantılı operatörlerin, platformun güvenlik protokollerini aşmak için 25.000'den fazla sahte hesap kullandığı tespit edildi. Şirket, bu ağın Claude modellerinin mantıksal yeteneklerini ve karmaşık yanıt mimarilerini ele geçirerek, kendi Qwen serisi modellerini eğitmek için 'model distilasyonu' yöntemiyle kopyaladığını belgeledi. Anthropic, bu faaliyetleri sadece bir veri hırsızlığı olarak değil, yapay zeka altyapısına yönelik stratejik ve kasıtlı bir siber saldırı olarak tanımlayarak durumu ABD makamlarına taşıdı.

Model distilasyonu, daha yetenekli ve büyük bir yapay zeka modelinin çıktılarını, daha düşük kaynak tüketen modelleri eğitmek için veri seti olarak kullanma sürecidir. Anthropic'in bulgularına göre, söz konusu 25.000 hesap, birbirine bağlı otomatik ağlar üzerinden Claude platformuna sürekli ve yoğun veri talepleri göndererek, modelin yanıt kalitesini taklit etmeye çalıştı. Bu durum, LLM geliştiricilerinin sadece GPU gücüyle rekabet etmediklerini, aynı zamanda sofistike siber saldırılara karşı da sürekli bir savunma pozisyonunda olmaları gerektiğini kanıtlıyor.

Alibaba tarafı ise iddiaları kesin bir dille reddederek, Qwen modellerinin kendi bünyelerindeki tescilli mühendislik süreçleriyle geliştirildiğini savunuyor. Şirket yetkilileri, etik standartlara tam bağlılık gösterdiklerini ve yöneltilen veri kazıma suçlamalarının gerçeği yansıtmadığını öne sürüyor. Ancak Anthropic tarafından sunulan dosyalar, büyük dil modellerinin eğitim verilerinin güvenliği konusundaki tartışmaları yeniden alevlendirirken, 'anti-scraping' yani veri kazımayı engelleyici savunma mekanizmalarının, gelecek nesil yapay zeka mimarileri için en kritik bileşen haline geldiğini gösteriyor.