Joe Rogan'ın Konuğu, Facebook'un 700.000 Kullanıcıyı Habersizce Manipüle Ettiği Gizli Deneyi Açıkladı
Bir Facebook kullanıcısı, Facebook deneyinin kendisini bu duruma itip itmediğini sorgulayarak acil servise kaldırıldı.
Joe Rogan, Harvard profesörü ve zihin kontrol uzmanı Rebecca Lemov ile bir araya geldi ve sohbetin Rogan'ın en sevdiği konulardan birine, yani hükümetin dijital yaşamlarımıza müdahalesine dalması uzun sürmedi.
Rogan sohbete, "Zihin kontrolünün pek çok farklı türü var" diyerek başladı. "Bu podcast'te sıkça konuştuğumuz konulardan biri de sosyal medyada gördüğünüz etkileşim ve tartışmaların büyük bir yüzdesinin gerçek olmadığıdır. Organik değil," diye açıkladı. "Bu, devlet tarafından yönetilen ve finanse edilen bir durum. İster yabancı hükümetler, ister kendi hükümetimiz, hatta şirketler olsun, bir anlatı oluşturmak üzere tasarlanmış ve bir tür zihin kontrolü olan yapay bir söylemle karşılaşıyorsunuz," diye ekledi.
Lemov bu noktadan devam ederek konuyu daha da ileri taşıdı. İnsanlar bir şeyin sahte olduğunu bilseler bile, beyinlerimizin sanki gerçekmiş gibi tepki verdiğini açıkladı. "Evet. Yani, bence temel düzeyde bile insanlar, bunun bilindiğini ve çalışmaların gösterdiğini biliyor; sanki organik ve gerçekmiş gibi tepki veriyoruz," dedi. "Hatta birisi gönderinizi beğendiğinde bile, tepki yüz yüze etkileşimdekiyle aynı oluyor," diye ekledi.
İpleri çekenlerin sadece hükümetler olmadığını belirtti. Platformların kendilerinin de nasıl hissettiğimizi etkilemek üzere tasarlandığını söyledi. "Bence kökeninde, duygusal düzeyde, sadece fikirlerin manipülasyonu değil," dedi, "platformlara yerleşik bir tür duygusal mühendislik var ve bu, başlangıçta hükümet müdahalesini bile gerektirmiyor."
Lemov, hükümetin tartışmalı savunma araştırma ajansı olan DARPA'nın ve şu anda yaşadığımız dijital dünyayı şekillendirmedeki gizli rolünün üzerindeki perdeyi araladı. DARPA'nın sadece internetin kurulmasında yer almadığını, aynı zamanda küresel ölçekte duygusal manipülasyonun temelinin atılmasına yardımcı olmuş olabileceğini açıkladı. "DARPA, internetin ve örüntü tanıma gibi şeylerin geliştirilmesinde yer aldı," dedi. "Hükümet pek çok çalışmayı finanse etti." Ancak onu en çok endişelendiren şey sadece teknoloji değildi; bu teknolojinin nasıl kullanıldığıydı. "Sosyal medyada ve bunu beyin yıkama vakalarıyla nasıl ilişkilendirdiğim konusunda ilgimi çeken şey şu: İnsanları farklı bir düşünce tarzına ikna etmekle pek de ilgili olmayan duygusal bulaşma durumları yaratıyor," diye açıkladı. Şöyle devam etti: "Daha çok, düşündükleriniz hakkında nasıl hissettiğinizle ilgili." Bu duygusal değişimin, tarikatlarda kullanılan taktiklerin aynısını yansıttığını söyledi. "Düşüncelerimi değiştirmesi değil," dedi. "O düşünceler hakkında nasıl hissettiğimdi."
İşte o zaman Lemov, Büyük Teknoloji tarihindeki en karanlık ifşaatlardan birini yaptı: yaklaşık 700.000 kullanıcının duygularını sessizce manipüle eden gizli bir Facebook deneyi. Ve kullanıcıların bundan haberi yoktu. Lemov, Rogan'a, "Okuduğum ünlü bir Facebook deneyi var; 2012'de yapılmış ve 2014'te yayınlanmış. Burada, kitlesel ölçekte duygusal bulaşmayı başardıklarını duyuruyorlar," dedi. Facebook'un insanların haber akışlarını onların bilgisi veya rızası olmadan nasıl değiştirdiğini anlattı. "Platforma her girdiğinizde, test edilmeyi veya A/B testine tabi tutulmayı kabul edersiniz. Bu deneyde bir grup, kelime sayım yazılımıyla ölçüldüğü üzere, haber akışları duygusal olarak olumsuz yönde değiştirilmiş bir içeriğe maruz bırakıldı," dedi. Sonuçların son derece rahatsız edici olduğunu ekledi. "Ve olumsuz içeriğe maruz kalan grubun da gönderileri, beğenileri ve yanıtları aracılığıyla değerlendirildiğinde daha olumsuz bir şekilde tepki verdiğini keşfettiler." "Algoritmayı değiştirerek daha olumlu bir haber akışına maruz bırakılan grup ise, istatistiksel olarak anlamlı ölçüde daha olumlu bir duygusal tepki verdi ve kontrol grubu bundan etkilenmedi." Başka bir deyişle, Facebook sadece duyguları incelemiyordu; onları aktif olarak şekillendiriyordu. Ve kimse asla uyarılmadı. Deneyin tam kapsamı, araştırmacılar sonunda ne yaptıklarını itiraf edene kadar iki yıl sonra ortaya çıktı.
Facebook'un veri bilimcileri, duygusal sonuçları gözlemlemek için ya tüm olumlu gönderileri ya da tüm olumsuz gönderileri kaldırarak 689.003 kullanıcının akışlarını sessizce manipüle etmişti.
Eğer Ocak 2012'de haber akışınız alışılmadık derecede kasvetli veya şüpheli bir şekilde neşeli hissettirdiyse, bunun bir parçası olma ve asla bilmeme ihtimaliniz var.
Veri bilimcisi Adam Kramer liderliğindeki çalışma ekibi, bulgularını sonunda bilimsel bir dergide yayınladı ve sonuçları soğuk, klinik bir ayrıntıyla açıkladı: Makalede, "Olumlu ifadeler azaltıldığında, insanlar daha az olumlu ve daha fazla olumsuz gönderi üretti; olumsuz ifadeler azaltıldığında ise tam tersi bir örüntü ortaya çıktı," deniyordu.
Bu, yadsınamaz bir kanıttı: Duygular bulaşıcıydı ve sosyal medya, ruh halini kitlesel olarak manipüle etmek için silah haline getirilebilirdi.
Deney sadece bir hafta sürdü, ancak algoritmanın ağına yakalananlar için duygusal dalga etkileri çok daha uzun sürmüş olabilir. Lemov, deney nihayet kamuoyuna açıklandığında tepkinin anında ve bazı durumlarda yürek parçalayıcı olduğunu açıkladıktan sonra işler rahatsız edici bir hal aldı.
Araştırma ekibine doğrudan ulaşan bir kullanıcıdan gelen özellikle tüyler ürpertici bir yanıtı hatırlattı. "Ve deneyi yapan araştırma grubunun Facebook sayfasında, en az bir kullanıcı şöyle yazmıştı: 'O deneyde olup olmadığımı öğrenebilir miyim? Çünkü o sırada intihar tehdidiyle acil servisteydim ve haber akışımın değiştirilip değiştirilmediğini ve belki de bunun beni o duruma itip itmediğini bilmek istiyorum.'"
Ancak bunu geriye dönük izlemenin bir yolu yoktu. Lemov, "Tabii ki asla bilemezlerdi ve geriye dönük izlenemez. Ve diğer insanlar da benzer tepkiler verdi," dedi.
Bu ifşaatlar, deneyin uluslararası erişimi nedeniyle yaptırımları düşünen İngiliz hükümeti tarafından bir soruşturma başlatılmasına yetecek kadar ciddiydi. "Hatta İngiliz hükümeti, deneyin uluslararası kullanıcıları etkilemesi nedeniyle bunun yaptırıma tabi tutulup tutulmaması gerektiği konusunda bir soruşturma başlattı," diye ekledi.
Ancak sonunda kimse sorumlu tutulmadı. "Nihayetinde, bununla ilişkili herhangi bir kişiye yönelik herhangi bir yaptırım çıkmış gibi görünmüyor," dedi.
Ceza yok. Uyarı yok. Şeffaflık yok.
Ve soru hala havada asılı: Şu anda gözümüzün önünde saklanan daha kaç deney yapılıyor?
Kaynak:
The Vigilant Fox
Comments ()