TikTok Skandalı: Milyonlarca Kullanıcı Güvenlik Güncellemesinden Mahrum Bırakıldı, Bir Genç Hayatını Kaybetti

📌 Öne Çıkan Gelişmeler

TikTok, 2021'de geliştirdiği güvenlik algoritmasını 15 milyon ABD'li kullanıcıdan, bir 'A/B testi' kapsamında kasıtlı olarak gizledi.
Bu test grubunda yer alan 16 yaşındaki Chase Nasca, intihar ve kendine zarar verme içeriklerine maruz kaldıktan sonra hayatını kaybetti.
Şirket, güvenlik güncellemesinin kullanıcı 'bağlılığını' (stickiness) azaltıp azaltmadığını ölçmek için bu etiğe aykırı deneyi bir yıla kadar sürdürdü.
Olay, sosyal medya platformlarının kullanıcı güvenliği ile ticari çıkarları arasındaki derin etik ikilemi ve algoritmik sorumluluk tartışmalarını yeniden alevlendirdi.

Son yıllarda teknoloji dünyasında yankı uyandıran pek çok gelişme yaşandı, ancak bazıları hem sektörün geleceğini hem de etik sınırlarını derinden sarsacak nitelikte oluyor. Bloomberg tarafından ortaya çıkarılan ve mühürlü bir mahkeme belgesine dayanan haber, popüler sosyal medya platformu TikTok'un kullanıcı güvenliği konusundaki yaklaşımını sorgulatan ve ağır etik ihlaller içeren şok edici bir gerçeği gün yüzüne çıkardı. Belgeye göre TikTok, 2021 yılında platformdaki zararlı içeriği filtrelemek için tasarlanan kritik bir güvenlik güncellemesini, yaklaşık 15 milyon ABD'li kullanıcısından kasıtlı olarak gizledi. Bu, platformun kendi 'bağlılık' metrikleri üzerindeki etkisini ölçmek amacıyla yürütülen etik dışı bir A/B testinin parçasıydı. En trajik yanı ise, bu test grubunda yer alan 16 yaşındaki New York'lu Chase Nasca'nın, maruz kaldığı yoğun intihar ve kendine zarar verme içerikleri sonrasında hayatını kaybetmesi oldu. Bu olay, teknoloji şirketlerinin algoritmik güçlerini nasıl kullandıkları, etik sınırları nerede çizdikleri ve genç kullanıcıların zihinsel sağlığı üzerindeki sorumlulukları hakkında devasa soruları beraberinde getiriyor.

Algoritmik Deneyin Perde Arkası: Güvenlik mi, Bağlılık mı?

A/B testi, yani 'geri test' olarak da bilinen bu metodoloji, yazılım geliştirme ve ürün yönetiminde yaygın olarak kullanılan standart bir tekniktir. Temel olarak, bir değişikliğin etkisini ölçmek için kullanıcıların veya verilerin iki farklı gruba ayrılmasını ve her gruba farklı bir versiyonun sunulmasını içerir. Genellikle küçük değişikliklerin (örneğin bir düğme rengi, bir başlık) kullanıcı davranışları üzerindeki etkisini anlamak için kullanılır ve bu bağlamda veriye dayalı karar alma süreçlerinin vazgeçilmez bir parçasıdır. Ancak TikTok'un söz konusu 'deneyi', bu metodolojinin etik sınırlarını zorlayan, hatta çiğneyen bir uygulama olarak kayıtlara geçti.

Bloomberg'in raporuna göre, TikTok 2021 yılında kullanıcıları zararlı içerik selinden korumak için algoritmalarında bir değişikliğe gitti. Bu 'daha güvenli sürüm', özellikle intihar, kendine zarar verme, depresyon gibi hassas ve potansiyel olarak travmatik içeriklerin yayılımını engellemeyi hedefliyordu. Ancak şirket, bu kritik güvenlik iyileştirmesini tüm kullanıcılarına sunmak yerine, ABD'deki kullanıcılarının yaklaşık %10'unu, yani o dönemde tahminen 15 milyon kişiyi eski, daha az güvenli algoritma üzerinde tuttu. Bu 'kontrol grubu'nun amacı, yeni, daha güvenli akışın kullanıcıların platformda geçirdiği süreyi veya 'yapışkanlığı' (stickiness) azaltıp azaltmadığını ölçmekti. Wall Street analistleri ve yatırımcılar için kritik bir metrik olan 'yapışkanlık', platformun reklam geliri potansiyeli ve piyasa değeri açısından büyük önem taşır. Şirket, kullanıcının güvenliği pahasına finansal metrikleri önceliklendirme gibi eleştirel bir tercihte bulunmuş oldu. Mahkeme belgesinde, bu kontrol grubunda yer alan Chase Nasca'nın hesabında "TikTok'un filtre balonu önleme stratejilerinin tasarım gereği bu kullanıcı üzerinde etkili olmadığı" açıkça belirtiliyor. Bu durum, Nasca'nın hesabına intihar, kendine zarar verme ve depresif içerik akışının ulaşmasına neden oldu ve genç, Şubat 2022'de intihar ederek hayatını kaybetti. TikTok'un 2023 Mart'ında hazırladığı ve Businessweek'in genç güvenliğiyle ilgili soruları üzerine derlediği 14 sayfalık belge, Chase'in son iki haftasında gördüğü 7.563 videoyu incelemiş ve %73'ünün üzüntü veya zihinsel sağlık sorunları gibi temalar içerdiğini, %10'a yakınının ise platform kurallarını ihlal ettiğini ortaya koydu. Belgede, kontrol grubunun %1'in altına düşürülmesi ve test süresinin bir yıldan yedi güne indirilmesi gibi öneriler yer alsa da, %1'lik bir grubun dahi 1,8 milyon ABD'li kullanıcıyı güncelleme dışında bırakacağı not düşüldü. Bu, uygulamanın büyüklüğü ve potansiyel tehlikesi açısından ciddi bir sorunu işaret ediyordu.

Etik İkilem ve Hukuki Sonuçlar: "Tasarım Gereği" Tehlike

"Tasarım gereği" (by design) ifadesi, hukuk literatüründe büyük bir ağırlık taşımaktadır. Bu iki kelime, bir ürünün veya hizmetin doğası gereği tehlikeli olduğu iddialarının temelini oluşturur. Sosyal medya platformlarının "tasarım gereği tehlikeli" olduğu yönündeki binlerce dava, şirketlerin platformlarının addictive özelliklerle gençleri hedef aldığı ve bu durumun zihinsel sağlık sorunlarına yol açtığı argümanına dayanıyor. TikTok ve diğer platformlar bu iddiaları reddetse de, mart ayında Kaliforniya'da bir jüri Google'ın YouTube'unu ve Meta'nın Instagram'ını, bağımlılık yapıcı özelliklerle çocukları hedef aldıkları için ihmalkar bulmuş ve bir davacıya 6 milyon dolar tazminat ödenmesine karar vermişti. Chase Nasca olayına ilişkin belge de, bu daha geniş kapsamlı dava sürecinde ortaya çıktı.

TikTok'un bir sözcüsü, olayın ardından "Trajik bir kayıp yaşayan her aile için kalplerimiz kırılıyor" açıklamasında bulunurken, şirketin özellikle gençler olmak üzere kullanıcıların güvenliğine ve iyiliğine "derinden bağlı olduğunu" ve tespit ve yaptırım için yoğun yatırım yaptığını ekledi. Ancak bu açıklamalar, şirketin iç yazışmaları ve eylemleriyle çelişmektedir. TikTok ve Snap, Kaliforniya'daki duruşmanın arifesinde anlaşmaya varmış, TikTok ayrıca üç başka davayı da sonuçlandırmıştır. Ancak Chase'in ebeveynleri, 2023 yılında TikTok aleyhine haksız ölüm davası açtı. Bir yargıç geçen yıl davayı, federal yasanın (İletişim Ahlakı Yasası'nın 230. maddesi) şirketi koruduğu gerekçesiyle reddetse de, temyiz süreci devam etmektedir. 230. madde, internet platformlarına üçüncü taraf içeriğinden doğan sorumluluklara karşı geniş bir dokunulmazlık sağlamaktadır, ancak bu durum, platformların kendi algoritmik kararlarının sonuçlarından doğan etik ve hukuki sorumluluklarını giderek daha fazla tartışmaya açmaktadır.

Kongre Karşısında TikTok ve Sektörün Sorumluluğu

İç incelemenin tamamlanmasından sadece iki hafta sonra, TikTok CEO'su Shou Chew, ABD Kongresi önünde ifade verdi. Chew, "Güvenlik ve refah, özellikle gençler için TikTok'un temel önceliğidir" şeklinde konuştu. Ancak Kongre üyeleri bu açıklamalara şüpheyle yaklaştı. Temsilci Gus Bilirakis, galeride oturan Chase'in ebeveynlerini işaret ederek "Şirketiniz onların hayatlarını mahvetti" dedi. Bir diğer temsilci Gary Palmer ise Chew her "şeffaflık" dediğinde, kendisinin "aldatma" duyduğunu ifade etti. Mayıs 2023 tarihli yazılı yanıtlarda, Kongre TikTok'a kaç kullanıcı intiharından haberdar olduğunu sordu. Şirket, "platformun kullanımının kullanıcıların intihar etmesine neden olduğuna inanmadığını" yanıtladı. Bloomberg, bu yanıtın TikTok'un Chase'in hesabını incelemesinden iki ay sonra geldiğine dikkat çekti; bu da şirketin yanıtlarının içeriğini sorgulatır nitelikteydi. Yazılı yanıtlarda 'geri test'ten ise hiç bahsedilmedi.

Bu olay, sosyal medya endüstrisinin genelinde A/B testlerinin nasıl yürütüldüğü, etik denetimlerin yeterliliği ve özellikle savunmasız genç kullanıcıların korunması konusundaki tartışmaları yeniden alevlendirdi. TikTok'un eski bir güven ve güvenlik ekibi lideri, testin yapıldığı dönemde bu durumdan haberdar olmadığını belirterek, A/B testlerinin sektörde yaygın olduğunu ancak bu özel testin kusurlu olduğunu ifade etti. Kontrol grubunun çok büyük olduğunu, reşit olmayanları ve intihar videoları gibi hassas içerikleri dışlaması gerektiğini savundu. Bu tür açıklamalar, şirket içindeki potansiyel iletişim eksikliklerini ve etik standartların farklı departmanlar arasında nasıl algılandığını da gözler önüne seriyor. Sosyal medya platformlarının algoritmik sorumluluğu, devletlerin ve toplumların bu şirketler üzerindeki denetimini artırma çabalarını hızlandıracaktır.

💡 Mercek360 Sektörel Değerlendirmesi

TikTok'un bu 'deneyi', modern teknoloji şirketlerinin karşı karşıya olduğu en büyük etik ikilemlerden birini, yani kullanıcı güvenliği ve refahı ile ticari hedefler arasındaki ince çizgiyi derinden ortaya koymaktadır. Algoritmaların gücü ve karmaşıklığı arttıkça, bu sistemlerin insan davranışları üzerindeki etkisi de katlanarak büyümektedir. Mercek360 olarak, bu türden olayların sadece bir şirketin hatası olarak görülmemesi gerektiğine inanıyoruz; bu, tüm sosyal medya ekosistemini ve hatta daha geniş anlamda yapay zeka tabanlı sistemleri kapsayan yapısal bir sorunun belirtisidir. Şirketlerin, 'büyüme' ve 'bağlılık' metriklerini insan yaşamının önüne koyduğu bu tür vakalar, sektörde daha şeffaf, hesap verebilir ve etik bir yaklaşım benimsenmesinin ne kadar hayati olduğunu çarpıcı bir şekilde göstermektedir.

Bu olay, regülatörlerin ve sivil toplum kuruluşlarının sosyal medya şirketlerinin algoritmik karar alma süreçlerine daha derinlemesine müdahale etme çağrılarını güçlendirecektir. İletişim Ahlakı Yasası'nın 230. maddesi gibi yasal korumalar, platformların kendi algoritmalarıyla yarattığı zararlara karşı bir kalkan olmaktan çıkmalı, şirketlerin kasıtlı ihmallerine karşı hesap verebilirliği sağlamalıdır. Gelecekte, A/B testleri gibi ürün geliştirme yöntemlerinin gençleri veya savunmasız grupları içeren senaryolarda çok daha sıkı etik denetimlere tabi tutulması gerekecektir. Teknoloji, insanlığa hizmet etmek için vardır; bu tür olaylar, bu temel ilkenin bazen kar hırsının gölgesinde kalabildiğini hatırlatıyor ve sektörün bu durumu derhal düzeltmesi gerektiğini net bir şekilde gösteriyor. Kullanıcıların dijital refahı, artık sadece şirketlerin 'kurumsal sosyal sorumluluk' beyanlarının ötesinde, yasal ve etik bir zorunluluk haline gelmelidir. Aksi takdirde, bu tür trajik olayların tekrar yaşanması kaçınılmaz olacaktır.