Dördüncü Endüstri Devrimi’ne Doğru

11 Eylül 2001, veri toplama ve analizinde bir dönüm noktasıydı. İstihbarat servisleri daha önce de veri topluyordu ve kamuoyuna yansıyan, ABD’nin yönetiminde yürütülen ECHELON gibi geniş kapsamlı uluslararası istihbarat sistemleri vardı. Ama 11 Eylül’den sonra gündeme gelen gözetim projeleri daha farklıydı. Saldırganlardan biri ABD’ye öğrenci vizesiyle girmiş ve ticari havacılık kursu almıştı. 11 Eylül saldırganlarının beşi daha önceden FBI veritabanlarında bulunuyordu ve bu saldırganlardan biri sadece iki yıldır ABD’de olmasına rağmen 30 kredi kartına sahipti. Bill Clinton’a göre bunlar hayatın olağan akışına aykırı ve kuşkulanılması gereken verilerdi (Larose, 2005). Bundan sonraki yönelim, artık yalnızca şüpheli kişilerin izlenmesi değil bütünün izlenerek içindeki ayrıksı hareketlerin tespit edilmesi olacaktı.

2013 yılında, NSA’nın eski çalışanlarından Edward Snowden’ın ifşaları ABD’nin bu amaç doğrultusunda kayda değer bir yol katettiğini gösteriyordu. ABD, PRISM kod adlı program çerçevesinde hem yabancı ülkelerin diplomatlarını dinliyor hem de ABD’nin en büyük telekom şirketlerinden biri olan Verizon’un müşterilerinin telefon kayıtlarına ait üstverileri (kimin, kiminle, ne zaman ve ne kadar konuştuğu bilgisi) topluyordu. Daha da önemlisi Microsoft, Yahoo, Google, Facebook, PalTalk, AOL, Skype, YouTube ve Apple’ın NSA ile işbirliği içinde olduğu iddia ediliyordu. NSA, Clinton’un 11 Eylül sonrasında düşlediği gibi, suçlu veya şüpheli olmasına bakmaksızın toplumun geneline ait verileri topluyor, filtreliyor ve analiz ediyordu (http://www.theguardian.com/world/2013/jun/06/nsa-phone-records-verizon-court-order ve http://www.theguardian.com/world/2013/jun/06/us-tech-giants-nsa-data).

Veri toplama ve analizi, insanların sosyal medyadaki hareketlerinin takibiyle daha da genişledi ve derinleşti. Yeni sosyal medya servisleri ve yeni cihazlarla internette harcanan zaman ve bunun sonucunda geride bırakılan ayak izleri arttı. Aşağıdaki grafikte ülkelere göre iş dışında internette geçirilen zaman gösteriliyor (“How the world was trolled”, 2017):

Facebook, Instagram ve WhatsApp kullanan yetişkin Amerikalılar, ayda yaklaşık 20 saatlerini bu uygulamalarda harcamaktadır. Telefonlarına günde ortalama 2600 kereden fazla dokunuyorlar ve Facebook’ta dakikada 4 milyondan fazla şeyi beğeniyorlar. Böylece Facebook ve Google, dünyadaki dijital reklam piyasasının yarısını kontrol edebiliyor. Facebook ve Google, enformasyon satışından değil kullanıcıların dikkatinin reklam vermek isteyen şirketlere satışından kazanç elde etmektedir. Kullanıcılardan aynı miktarda dikkati elde ettikten sonra enformasyonun doğasının veya anlamının bir önemi de kalmamaktadır. Başkalarının dikkatini çekme isteği sosyal medya kullanıcıları için de geçerlidir. Kullanıcılar paylaşımlarıyla, duyulmak, görülmek ve saygı duyulmak isterler. İletilerinin beğenilmesinden ve yeniden paylaşılmasından mutlu olurlar. Bu görülerek var olma arzusu, mahremiyeti de ikinci plana düşürmüştür.

Alışveriş yaptığımız marketlerin verdiği kartlar müşteriler için belirli ürünlerde indirim anlamına gelmektedir. Çoğu insan bu kartlarla alışveriş davranışlarının izlendiğinin farkındadır. Ama bu takibin bedeli en fazla belirli ürünlerde biraz daha fazla reklam bombardımanı olacaktır ve çoğu zaman görmezden gelinebileceğinden umursanmayacaktır. Sosyal medyada ise mahremiyet denilince ilk akla gelen paylaşılan bir bilginin başkalarınca (ebeveyn, öğretmen, amir, patron veya hükümet yetkilileri tarafından) kişinin aleyhine kullanılabileceğidir. Öğrenciler için sosyal medyada mahremiyet, paylaştıklarının öğretmenleri veya ebeveynleri tarafından fark edilememesidir. Bir çalışan için mahremiyet amirinin veya patronunun sosyal medyada yazdıklarını görememesidir. Sosyal medya ayarları değiştirilerek mahremiyet seviyesi artırıldığında mahremiyet sorununun çözüldüğü düşünülmektedir.

Ancak sorun paylaşılan herhangi bir verinin veya dijital ayak izlerimizin doğrudan aleyhimize kullanılabilecek olması değildir. Birbiriyle ilişkili iki temel sorun var. Birincisi, marketlere, telekom şirketlerine, bankalara ve web sitelerine gönül rahatlığıyla teslim ettiğimiz veriler toplumsal ilişkilerin yeniden yapılandırılmasında belirleyici olmaya başlamıştır. 2010 sonrasında matematik modeller hiç olmadığı kadar insan ilişkilerine daldılar ve kamuoyu bunu sorgulamaksızın kabullendi. İnsanların arzuları, hareketleri ve harcama güçleri üzerine modeller kuruluyor; öğrenciler, işçiler, sevgililer, suçlular olarak potansiyelimiz ve güvenilirliğimiz ölçülmeye çalışılıyor (O’Neil, 2016). Yazının devamındaki örneklerden de anlaşılabileceği gibi kimi zaman iyi niyetle başlayan bu girişimler insanları bir girdabın içine sürüklüyor: Yoksullar, yoksulluklarından kurtulmak isterlerken daha çok fakirleşiyor, iş bulmakta zorlanıyor ve suça itiliyor. O’Neil’in (2016) MİS (Weapons of Math Destruction – Matematik İmha Silahları) adını verdiği matematiksel modeller belirli bir sorunu çözmeye çalışırken sorunun kökenine inemediğinden (veya inmek istemediğinden) insanlar arasındaki eşitsizlikleri daha da artırıyorlar; toplumsal ilişkileri ve bazı değerleri âdeta imha ediyorlar. İkinci sorun ise sosyal medya şirketlerinin giderek daha etkili hale gelmesi ve kontrolünün güçleşmesidir. Birkaç yıl önce sosyal medya araçlarını doğrudan demokrasinin araçları olarak selamlarken, 4 Kasım 2017 tarihili The Economist dergisinin kapağından da görülebileceği gibi sosyal medya temsili demokrasi için bile (!) bir tehdit haline gelmiştir:

4. Endüstri Devrimi’nin parıltılı vaatlerinin altında da veri ve bunun üzerine kurulan/kurulacak modeller var. Fakat son 10 yıldaki uygulamaları ve veriye yaklaşımı incelediğimizde büyük risklerle karşı karşıya olduğumuzu görüyoruz.

Matematik İmha Silahları

Bir bilgisayar programı binlerce özgeçmişi veya kredi başvurusunu birkaç saniye içinde tarayıp değerlendirebilir ve uygun adayları üst sıralara taşıyabilir. Böylece hem değerlendirmenin hızlanacağı hem de önyargılardan uzaklaşılacağı düşünülür. Değerlendirmeyi yapan matematiksel modeller adildir ve daha önceden belirlenmiş nesnel kriterlere göre çalışmaktadır. Birçok insan bu yöntemi keyfi ve yanlı değerlendirmelere tercih edecektir. Özgeçmişlerin otomatik olarak değerlendirilmesinin henüz yaygınlaşmadığı 2001 ve 2002 yıllarında Chicago Üniversitesi ve MIT’deki araştırmacılar Boston Globe and the Chicago Tribun’de yayımlanan iş ilanlarına 5000 sahte özgeçmiş göndererek bir deney yaparlar. Özgeçmişler ırka göre tasarlanmıştır. Başvurularda doğrudan “ben siyahım veya beyazım” denilmese de isimler belirli bir ırkı çağrıştıracak şekilde seçilmiştir. Beyazlar için Emily Walsh ve Brendan Baker gibi isimler, siyahlar içinse Lakisha Washington ve Jamaal Jone gibi isimler kullanılır. Bunun dışında adayların nitelikleri aynıdır. Araştırma sonucuna göre beyazlar siyahlara göre %50 daha fazla geri aranmıştır. Daha ilginç bir sonuç ise özgeçmişi daha güçlü olan beyaz adayların diğer beyaz adaylardan daha çok dikkat çekmesi ama özgeçmiş farkının siyahlar arasında etkili olmamasıdır (O’Neil, 2016).

Ancak hayatın her alanında karşımıza çıkmaya başlayan bu matematiksel modellerin tarafsızlık ve verimlilik iddialarına karşı temkinli olmak gerekiyor. O’Neil (2016), eldeki veri ile hedeflenen enformasyon arasında çeşitli ilişkilerin kurulduğu matematiksel modellerin içerdiği tehlikeler hakkında insanları uyarmakta ve bu matematiksel modelleri sıradan insanların erişemediği ve anlayamadığı tanrılara benzetmektedir. Onları sadece en tepedeki rahipler olan matematikçiler ve bilgisayar bilimcileri anlayabilmektedir. Bu rahiplerin verdiği kararların yanlışlığı ve zararları ortaya çıktığında bile tanrılar tartışılmazlıklarını devam ettirmektedirler. Mortage krizi ve büyük finans kuruluşlarının çöküşünün arkasında matematiksel modeller vardır. Bilgisayarlar öyle söyledi diye insanlar işlerinden olmuşlardır. Bu olumsuzluklara rağmen, özellikle 2010 yılından sonra, matematiksel modeller akla gelen her endüstride hızla yaygınlaşır.

Cathy O’Neil de 2008 krizine kadar bu rahiplerden (daha doğrusu az sayıdaki rahibeden) biriyken şimdilerde sıradan insanların arasına karışarak onları karşı karşıya oldukları tehlike hakkında bilgilendiriyor (web sitesi: https://mathbabe.org/) . O’Neil’in (2016) MİS (Matematik İmha Silahları) adını verdiği bu matematiksel modeller zenginleri daha da zenginleştirirken fakirlerin ve ezilenlerin durumunu daha da kötüleştirmeye eğilimliler. Saydam değiller, sorgulanamıyorlar ve yaptıklarından sorumlu tutulamıyorlar. O’Neil’in (2016) vurguladığı gibi MİS’ler çoğu zaman takdir edilen bir hedefle ortaya çıkıyor. 2007’de Washington’un yeni belediye başkanı, Adrian Fenty’nin eğitim reformunda olduğu gibi.

Fenty, okullardaki performans düşüklüğünün üstesinden gelebilmek için bir eğitim reformu hazırlamak ister ve bu işte Michelle Rhee’yi görevlendirir. Rhee’nin başlangıç noktası ise öğrencilerin başarısızlığından öğretmenleri sorumlu tutmak olur. 2009’da öğretmenleri değerlendiren ve “kötü” öğretmenleri ayıklayan IMPACT adlı sistemi geliştirir. IMPACT’ın değerlendirmeleri doğrultusunda 2009-2010 öğretim yılı sonunda, en alttaki %2’lik kesimde yer alan öğretmenler işten çıkartılır. Sonraki yıl bu oran %5 olur.

Beşinci sınıf öğretmeni, Sarah Wysocki kendinden emindir. MacFarland Ortaokulu’nda henüz ikinci yılı olmasına rağmen okul müdüründen ve velilerden övgüler almaktadır. Veliler öğrencilere karşı yaklaşımından memnundur. Ama yıl sonunda IMPACT’ten tatsız bir rapor alır. Raporda, IMPACT’ın puanlamasına göre Wysocki’nin matematik ve dil eğitiminde yetersiz olduğu yazmaktadır. Okul yönetiminin ve velilerin görüşleri de genel değerlendirmede yer almasına karşın IMPACT’ın puanlaması daha ağırlıklıdır. Bölge yönetimi isteksizce Wysocki’nin işine son vermek zorunda kalır.

O’Neil (2016) bunun bir cadı avı olmadığını belirtmektedir. Okul müdürü, kötü bir öğretmenle yakın olduğu için onun başarısızlığını görmezden gelebilir. Ya da iyi bir öğretmen hakkında farklı gerekçelerle olumsuz rapor verebilir. Belki de öğretmen gerçekten kötüdür ama kendini iyi göstermeyi bilmektedir. Bu tip yanlı değerlendirmelere karşın IMPACT, öğretmenlerin matematik ve okuma eğitimi hakkındaki yeteneklerini matematiksel olarak değerlendirme iddiasındadır. Birçok MİS’te olduğu gibi model ilk başta insanların yaptığı değerlendirmelerle karşılaştırıldığında daha adil ve tarafsız görünmektedir.

Ama Wysocki bu değerlendirmenin haksızlık olduğunu düşünmektedir ve işin peşini bırakmaz. Okulun bağlı bulunduğu bölgenin Princeton merkezli Mathematica Policy Research’ten danışmanlık hizmeti aldığını ve bölgedeki öğrencilerin ilerlemelerini değerlendirerek bunun ne kadarının öğretmenle ilişkili olabileceğini hesaplamaya çalıştıklarını öğrenir. Kullanılan algoritmalar oldukça karmaşıktır; öğrencilerin sosyoekonomik geçmişlerinden öğrenme güçlüklerine kadar birçok etken hesaplamalarda yer almaktadır. Fakat öğrencilerin durumu değerlendirilirken ilerleme veya gerileme hangi oranda öğretmene bağlıdır? Öğrencilerin notları fazla değişmezse veya yükselirse öğretmen hakkında yorum yapmak güçleşir. Peki ya notlar çakılırsa? İşte o zaman öğretmen için tehlike çanları çalacaktır.

O’Neil (2016) bunun yeterli bir ölçüm olamayacağını savunmaktadır. Örneğin, Google, Facebook vb şirketler bir reklamın en iyi sunumu için binlerce parametreyi değerlendirebilmektedir. Milyonlarca kullanıcıdan aldıkları geribildirimlerle algoritmalarını optimumlaştırabilmektedir. Öğretim ve öğrenmede ise çok sayıda parametre olmasına karşın bunların pek azı değerlendirmeye katılabilmektedir. Ayrıca O’Neil’e (2016) göre bir öğretmenin yararlılığını 25-30 öğrenci üzerinden ölçmek istatistiksel açıdan kabul edilemez bir durumdur. Bu kadar az kişiyle istatistiksel olarak anomalileri ve istisnaları dengelemek olanaklı değildir. Bunun yanında, Google örneğinde olduğu gibi bir geribildirim mekanizması olmadığından modelin eksiklikleri ve yanlışlıkları bilinip düzeltilememektedir. Sonuçta Wysocki’nin de içinde yer aldığı 205 öğretmen başarısız olarak değerlendirilerek işten atılırlar [1].

Kuşkulu bir durum da vardır. Öğretmenlerin değerlendirmesinin tam olarak nasıl yapıldığı bilinemese de Wysocki öğrencilerin sınav notlarının etkili olduğunu tahmin etmektedir. Çünkü öğretmenin performansını sayısallaştırabilmek için en net veri budur ve Wysocki daha önce alışılmadık bir durumla karşılaşmıştır. Wysocki, göreve başladıktan bir süre sonra öğrencilerinin geçen yılki akademik başarıları oldukça yüksek olmasına rağmen en basit cümleleri bile okumakta zorlandıklarını fark etmiştir. Ayrıca Washington Post’ta ve USA Today’de çıkan haberlerde sınav sonuçlarının sağlıklı olmadığı, standart testlerde çok fazla düzeltme işleminin tespit edildiği ve sınıfların neredeyse %70’inde kopya şüphesi olduğu yazmaktadır. Birçok MİS gibi IMPACT da insanların davranışlarını değiştirmek için uygulanmaktadır. Başarı puanı yüksek olan öğretmenler ödüllendirilmekte, düşük olanlar ise Wysocki gibi işten atılmaktadır. Wysocki, öğrencilerinin notlarının daha öncesinde şişirildiğinden ve kendi döneminde notlar gerçek seviyesine inince de kötü öğretmen damgası yediğini düşünmektedir. Bu düşüncesini yetkililere anlatmaya çalışır, ama itirazı dikkate alınmaz. Yetkililer Wysocki’nin adil olarak değerlendirildiğinde ısrar ederler.

IMPACT, insanların yaşamını altüst eden basit MİS örneklerinden biridir ama MİS’lerin temel sorunları hakkında önemli ipuçları içermektedir. Birincisi, MİS’leri tasarlayanların ve özellikle de onları pazarlayanların temel tezi tarafsızlık ve nesnelliktir. O’Neil (2016), değerlerimizin ve arzularımızın toplamayı tercih ettiğimiz verilerin türünü ve kapsamını belirlediği gibi MİS’i oluşturan matematiğin içinde de gömülü olduğunu belirtmektedir. Dolayısıyla eğitimdeki sorunun çözümü, öğretmenin performansının değerlendirilmesine indirgendiğinde ortaya çıkan model de buna göre olacaktır. İkincisi, IMPACT örneğinde olduğu gibi birçok model hedefine (asıl veri olmadığından veya bazı şeyler sayısallaştırılamadığından) vekil verileri kullanarak ulaşmaya çalışmaktadır. Örneğin öğrencilerin test sonuçlarındaki değişimler, öğretmenlerin performansını ölçmek için bir vekil veridir. Vekil verilerin gerçekliğin yerine konulması son zamanlarda çok sık rastlanılan bir durumdur. Kredi kartını sadece alışveriş için kullandığımızı düşünürüz ve iyi bir vatandaş olduğumuzdan işlemlerimizin takip edilmesinden rahatsız olmayız. Yeni bir kredi kartına veya krediye başvurulduğunda kredi kartı borçlarının zamanında ödenip ödenmediği bilgisi yerinde bir kriterdir. Fakat aynı kriterin bir iş başvurusunda, adayın gelecekteki iş disiplinini değerlendirmek için de kullanılması; kredi kartı borçlarını vaktinde ödemeyenlerin iş disiplininin zayıf olacağı yargısının oluşması tehlikeli bir durumdur. Bu değerlendirmeler, keyfi yapılmamakta, korelasyon analizine dayanmaktadır. Muhtemelen iş disiplini ve kredi kartı borcu arasında doğrusal bir ilişki keşfedilmiştir. Ama bunun sonucu kişinin kredi kartı borcunu ödeyemediği için iş bulamaması; işsiz kaldığı için kredi kartı borcunu ödeyememesi ve yoksulluk girdabına sürüklenmesi olacaktır.

Girdap olgusuna bir çok MİS’te rastlanmakta, MİS’ler yoksulu daha da yoksullaştırmakta, ezilenlerin daha çok ezilmesine neden olmaktadır. O’Neil (2016), insanların yeniden suç işleme eğiliminin belirlenebilmesi için kullanılan MİS örneğini vermektedir. Çoğu MİS’te bu olanaklı değilse de yeniden suç işleme eğiliminin belirlenmesi için kullanılan modellerdeki bazı girdiler bilinmektedir: Kişinin tanıdığı insanlar, mesleği, kredi notu. İnsanların, tanıdığı insanlarla beraber değerlendirilmesi peşin hükümlü bir değerlendirmedir. İnsanın sadece yoksul bir mahallede yaşadığı ve çevresinde suçlular bulunduğu için yeniden suç işleme ihtimalinin tespitinde varlıklı bir mahallede yaşayan ve buna göre bir çevresi olan kişiyle eşit olmaması adil değildir. Hakimlerin önyargıları olsa da açık açık “siyahlar ve yoksullar suça eğilimlidir” diyemezler. Irkı modellere dahil etmek yasal da değildir. Ama şehirlerde belirli bölgelerde belirli kesimler yaşadığı için bu girdi örtük olarak analizlere dahil edilmektedir. Yine bir iyi niyet söz konusudur. Suç işleme eğilimini olasılıksal olarak ölçerek, toplumun korunması sağlanacaktır. Fakat bir insanın yaşadığı yerden kaynaklı olarak komşularının sabıkasının olması ve bu nedenle şartlı salıvermede daha dezavantajlı olması ne kadar adildir? Sonuçta, yoksul mahallelerin daha çok gözetim altında olduğu, insanların durdurulup arandığı ve bunun sonucunda istatistiksel olarak suç teşkil edebilecek unsurlara daha sık rastlandığı bilinen bir gerçektir. Polisin zengin mahallelerde böyle bir şey yapabilmesi söz konusu olmadığından tespit edilen yasadışı durumlar da çok daha az olacak, buralardaki insanların sabıka kaydı daha az kabaracak bu da zengin mahallede oturan birin yeniden suç işleme ihtimalinin daha düşük çıkmasına ve şartlı salıvermede daha avantajlı olmalarına neden olacaktır. Baştan dezavantajlı durumda olanlar hapishanede daha fazla tutulacak ve çıktığında bu adaletsizlikten dolayı sorunlar yaşayacaktır.

MİS’ler hakimlerin kararlarının daha verimli olmasını sağlayabilir, ama bunun bedeli insanların kanun önünde eşitliğinden vazgeçmek olacaktır. O’Neil’a göre (2015) MİS’leri bir fabrika olarak düşünürsek adaletsizlik bunlardan yayılan kara dumanlardır. Beyaz olmayan yoksullar daha yüksek oranda suç işlemektedir. İstatistiksel olarak bu doğrudur. Çünkü daha çoğu işsizdir, lise diplomasına sahip olmayanların oranı yüksektir, geçmişte polisle ufak tefek de olsa sürtüşmeler yaşamış (ve bu nedenle gözaltına alınmış) olma oranları yüksektir. MİS’ler söz konusu olumsuz koşulları değil iyileştirmek daha da ağırlaştırarak daha çok suçlu yaratmaktadır.

O’Neil (2016) toplumsal yaşamı biçimlendiren matematiksel modellerin her zaman kötü ve zararlı olduğunu iddia etmemektedir. Modellemede kullanılan veriler ve algoritmalar şeffaf olsa, insanlar haklarında toplanan verilerin hangi hesaplamalarda nasıl kullanılabildiğini bilseler ve yanlışlıklara itiraz edebilseler her şey bambaşka olacaktır. Fakat bu şeffaflık olmadan MİS’ler kendi gerçekliklerini dayatmaktadır. MİS’e dayalı eğitim reformu, onu uygulayanların bakış açısından politik olarak başarılıdır. Çünkü toplumda sorunların çözüldüğü hissi uyandıran politik bir karşılığı vardır. Yeniden suç işleme eğiliminin tespiti için kullanılan modeller de başarılıdır. Belirli bölgeler daha çok ayrımcılığa uğrayıp, buralardaki insanlar daha çok suça itildiklerinde bu modelleri hazırlayanları modelleri de daha çok insanı hapse attığında model doğrulanmış olacaktır. Bankacılıkta veya reklamcılıkta kullanılan birçok MİS’in amacı kârı artırmaktır ve bunu başardığında gerçekliği doğru algıladığını düşünmektedir. Bu nedenle, O’Neil’in (2016) de vurguladığı gibi herhangi bir modeli tartışırken onu kimin tasarladığının yanında neyi hedeflediğini de sorgulamak gerekmektedir. İnsanlar hakkında toplanan veriler ve toplumu yeniden yapılandırmak için kullanılan matematiksel modeller artarken bu sorgulama daha da kritikleşmektedir.

Sosyal Medya Platformlarının Artan Gücü

O’Neil’in okul reformu veya yeniden suç işleme ihtimalinin belirlenmesi gibi örnekler sosyal medya platformlarındaki uygulamalarla karşılaştırıldığında daha sınırlı yeteneklere sahiptir. Ancak sorun artarak devam etmektedir. Belirli bir alandaki, özellikle hedefli reklamcılıktaki, sayısallaştırma yöntemlerinin başarısı benzer yöntemlerin diğer alanlarda da kullanılabileceği yanılgısına yol açmaktadır. Fakat bu teknolojik çözümcülük insanlığı sayısal bir modele indirgeyerek sorunu yaratan koşulları derinleştirmeye devam etmektedir. Toplanan veriler, kurulan modeller ve bilgi elde etmek için çalıştırılan algoritmalar şeffaf değildir ve çoğu zaman ticari sır olarak saklanmaktadır. Bu da, bir başarı olarak görülen ve taklit edilmek istenen hedefli reklamcılığın bile yıkıcı bir hale gelmesine neden olmaktadır.

Tüfekçi’ye (2014) göre iç içe geçmiş altı alandaki gelişme sosyal medya platformlarına toplum mühendisliğine girişebilme cesareti vermektedir: Büyük verinin ortaya çıkışı, gelişen bilgisayımsal (computational) yöntemler, modelleme, davranış bilimi, gerçek zamanlı ortamlardaki deneysel bilim, platformların gücü ve algoritmik yönetişim. Bu gelişmelerle beraber, veriyi elinde bulunduran güçlü, veri zengini ve teknolojik olanaklara sahip olanlar (yani üretim araçlarına sahip olanlar), politikada, kent yönetiminde ve ticarette ikna ve toplum mühendisliği kampanyaları düzenleyebilme potansiyeline de sahip olmaya başlamıştır.

Büyük Veri

Büyük veri, bilişim teknolojilerindeki ilerlemeler sonucunda veri saklama kapasitesinin ve analiz etme hızının artmasıyla ortaya çıkan 3V (volume, velocity, variety) ile tanımlanmaktadır:

  • aşırı büyük veri hacmi (Volume)
  • yüksek veri hızı (Velocity)
  • çok geniş veri çeşitliliği (Variety)

Veri miktarı ve çeşitliliğindeki artış beraberinde nitel bir değişimi de getirmiştir. Büyük veri, mikroskop gibi daha önce görülemeyeni görünür yapmış, teleskop gibi olgulara daha geniş ve bütünsel bakabilme olanağını getirmiştir. Önceden, kişilerin anketlere verdikleri yanıtların örtük verilerle (kişinin para hareketleri, dergi abonelikleri, kredi kartı alışverişleri) birleştirilmesiyle kişiler hakkında daha ayrıntılı (ama kesinliği düşük) tahminler yapılabilmekte ancak örtük veriler, asıl istenen bilgi için yine vekil yerine geçmektedir. Örneğin, X dergisine abonelik, herhangi bir siyasi kampanya örgütlenmek istendiğinde kişinin nerede konumlanabileceği hakkında bir fikir sunabilir. Ama yine de bu ilişki zayıf bir veridir. Şimdi ise sosyal medya uygulamaları ve insanların internette bıraktıkları izlerde saklı örtük veriler gerçeğe daha yakın ilişkiler ortaya çıkarmaktadır. Veri acentelerinden satın alınan çevrimiçi ve çevrimdışı verilerin bir araya getirilmesiyle bir kişinin düşünceleri, eğilimleri ve davranışları hakkında daha derin bilgiye sahip olunabilmektedir. ABD Ticaret Komisyonu’nun 2014 yılındaki raporuna göre bazı veri simsarları her bir kişi hakkında 3000 bireysel veri noktasına sahiptir ve miktar hızla artmaktadır.

Bilgisayımsal Yöntemler

Tüfekçi (2014), bilgisayımsal yöntemlerin dört önemli gelişmenin sonucu olduğunu belirtmektedir. Bu gelişmelerden ilki, büyük veriyi saklamayı ve kontrol edebilmeyi sağlayan depolama ve veritabanı sistemlerinin geliştirilmesidir. İkincisi, yapılandırılmamış enformasyonun işlenebilmesini ve anlamlandırılmasını sağlayan yöntemlerin geliştirilmesidir. Daha önce üzerinde çalışılan verinin kapsamı ve sınırları toplama işlemi başlamadan önce belirlenmekte ve veri buna göre toplanmaktadır. Şimdi ise sohbetler ve durum paylaşımları gibi doğal dilden gelen veri de analiz edilebilmektedir. Üçüncüsü, sosyal ağ analizi gibi yöntemlerle insanlar arasındaki etkileşimin yeni araçlarla mercek altına alınabilmesidir. Dördüncü ise verinin ölçeğinin daha önce fark edebilmenin neredeyse olanaksız olduğu korelasyon analizlerini olanaklı hale getirmesidir.

Modelleme

Modelleme, insanların belirli profillere (50 yaş üstü erkekler, okul çağında çocuğu olan anneler, evinden uzak üniversite öğrencileri gibi) göre gruplandığı analizlerden farklıdır. Tüfekçi (2014) insanların sosyal ağlardaki etkileşimlerinin, konuşmalarının, arkadaş ağlarının, çeşitli platformlardaki okuma, yorumlama ve beğenme etkinliklerinin analiziyle seçmen tercihlerinin ve niteliklerinin yüksek bir kesinlikle modellenebileceğine dikkat çekmektedir. Üstelik bunu insanlara doğrudan sorular sormadan yapabilmek mümkündür.

Kosinski, Stillwell ve Graepel (2013), sadece Facebook’taki ‘beğen’ler üzerine yaptıkları çalışmada bu bilginin bile cinsel yönelim, etnik köken, din ve politik görüşler, kişilik özellikleri, zeka, mutluluk, uyuşturucu madde kullanımı, ebeveynlerin boşanması, yaş ve cinsiyet hakkında bile doğruluk payı yüksek tahminler yapabilmeyi sağladığını iddia etmektedir. Çalışma, 58000’den fazla gönüllünün beğenilerinin analizi, ayrıntılı demografik profiller ve çok sayıda psikometrik testin sonucu üzerine kuruludur. Model, homoseksüel ve heteroseksüel erkekleri ayırmada %88, siyah ve beyaz Amerikalılar’ı ayırmada %95, Demokrat ve Cumhuriyetçi ayrımında ise %85 başarılı olmuştur. Kişilik tahminlerinde de yine başarılı sonuçlar elde edilmiştir. Tüfekçi’nin (2014) vurguladığı gibi bu analiz sadece sınırlı sayıdaki Facebook kullanıcısının Facebook’taki sınırlı veri kümesi ile yapılabilmiştir. Diğer veritabanlarından (finansal hareketler, üye olunan kuruluşlar, seçmen kayıtları gibi) yararlanıldığında kesinlik seviyesi daha da yükselecektir.

Bu tip bilgiler, 2012 ve sonrasındaki seçimlerde hem Demokratlar’ın hem de Cumhuriyetçiler’in seçim stratejilerini belirlemede etkili olmuştur.

Davranış Bilimleri

Sosyal medyadaki asıl tehlike, platformların insanları ikna etmek, etkilemek ve belirli eylemlere yöneltmek için kullanıldığında ortaya çıkmaktadır. Hedefli reklamlarla insanlar belirli ürünleri almaya ikna edilmektedir. Fakat ne her zaman kendi çıkarlarının bilincinde hareket eden rasyonel tüketici vardır ne de seçmen. Nasıl ki tüketicilere ihtiyaçları olmayan ürünler satılabiliyorsa demokrasi adayların pazarlanmasına dönüştüğünde de seçmenlerin belirli adayları satın alması sağlanabilir.

Davranış bilimindeki gelişmelerle beraber büyük anlatılardan seçmenlerin bireysel tercihlerini değiştirmeye odaklanan bir mücadele vardır. Tüfekçi’nin (2014) belirttiği gibi davranış bilimi mucizeler yaratamaz; kötü ekonomiyi iyi veya çekici olmayan bir adayı çekici yapamaz. Ama ABD’de olduğu gibi önceden var olan kutuplaşma, kazananın her şeyi aldığı bir sistem ve seçimlere düşük katılım seviyesi dikkate alındığında seçmenlerin tercihlerini değiştiren ufak farklar bile sonuçta belirleyici olabilmektedir. Büyük veriye dayalı modelleme bu nedenle tarafların seçim stratejilerinde değişikliklere neden olmuştur. Bir siyasi parti/lider, herkese mavi boncuk dağıtarak herkesin oyunu almak ister. Fakat belirli bir kesim üzerinde etkili vaatler, diğer kesimlerin desteğinin kaybedilmesi ile sonuçlanabilir. Yeni stratejide, genel bir anlatıyla oy istemek yerine birbirinden haberi olmayan insanlara farklı reklamlar gösterilir ve her biriyle farklı seçim pazarlıkları yapılabilir.

Gerçek Zamanlı Ortamlardaki Deneysel Bilim

O’Neil’in (2016) tartıştığı modellerdeki sorunlardan biri de geribildirim mekanizmasının yokluğudur. Örneğin, sistem bir öğretmeni başarısız olarak nitelendirmişse, uygulamadaki parametrelerde bir değişiklik yaparak bunu test etmek mümkün olmamaktadır. Alışveriş sitelerinin ve sosyal medya platformlarının en büyük avantajı budur. Herhangi bir sorun veya kuşkuda en etkili sonucu alana kadar parametrelerle oynayarak test yapma imkanı vardır.

Örneğin Obama’nın 2007 yılındaki seçim kampanyasında web sitesi açılırken ilk olarak nasıl bir tasarımın daha etkili olacağına karar verebilmek için farklı düğme ve medya kombinasyonlarından oluşan 24 farklı tasarım denenmiş, her biri 13000 kişi tarafından görüntülenmiş ve en etkili tasarıma çok kısa sürede ve az maliyetle karar verilebilmiştir (Tüfekçi, 2014).

Benzer deneyleri Facebook’un da yaptığı bilinmektedir. 2012 yılında, 680000 Facebook kullanıcısı üzerinde duyguların bulaşıcı olup olmadığı üzerine bir deney yapılmıştır. Laboratuvar deneyleri duyguların çevrimdışı ortamda bulaşıcı olduğunu göstermektedir. Peki ya çevrimiçi ortamda? Facebook, dilsel bir yazılım kullanarak bunu test etmeye çalışır. Olumlu ve olumsuz güncellemeleri ayırır. Daha sonra deneklerin (bundan habersiz kullanıcıların) yarısına ağırlıklı olarak olumlu, diğer yarısına da olumsuz haberleri gösterir. Bir süre sonra kullanıcıların mesajları incelendiğinde olumsuz haberlere maruz kalanların daha çok olumsuz mesaj attığı gözlenir. Olumlu haberleri okuyanlarda da olumlu mesajlar fazlalaşır. Böylece Facebook, çevrimiçi ortamda da duygusal durumların aktarılabildiğini doğrulamış olur. O’Neil (2016) seçim günü insanların duygularıyla oynandığı zaman ne olacağını sorgulamaktadır. O’Neil (2016) Facebook’taki bilimcilerin seçim sistemi üzerinde sürekli testler yapan insanlar olduğunu düşünmemektedir. Fakat Facebook’un insanların ne öğrendiğini, nasıl hissettiğini ve oy kullanma eğilimini etkileyecek bir güce sahip olması endişe vericidir. Facebook’un platformu şeffaf değildir, çok büyüktür ve güçlüdür. Ne yazık ki araştırmalar hakkındaki bilgimiz araştırmacıların yayımladıkları deney sonuçları kadardır.

Platformların Gücü ve Algoritmik Yönetişim

Sosyal medya platformlarında gösterilen iletiler veya haberlerin sıralaması çoğu zaman şeffaf değildir ve yalnızca bu platformlarda çalışan sınırlı sayıda kişi bunun bilgisine sahiptir. Ayrıca platform sahipleri, bu algoritmalarla oynayarak platformdaki kullanıcıların görünürlüğünü ayarlayabilir, parası olanların içeriğini üste taşıyarak mesajlarını daha görünür yapabilir. Ama belki de daha tehlikelisi içeriğin kullanıcılara bireysel olarak gösterilebilmesidir. Bir diğer deyişle, televizyondan veya günlük gazetelerden geniş kitlelere iletilen ve onları ortaklaştıran mesajlar yerini bireyi hedefleyen mesajlara bırakmaktadır.

Bir politikacı, televizyonda bir vaatte bulunduğunda bundan sorumlu tutulabilir. Fakat kişiye özel propaganda sayesinde birbirinden habersiz seçmenlerle farklı farklı pazarlıklar yürüttüğünde her şey karanlıkta gerçekleşir. İnsanların farklı duyarlılıkları hedef alınabilir ve insanlar komşularından farklı mesajlar alabilir. Örneğin, bazı seçmenlere azınlıkları hedef alan bazılarına da daha ılımlı mesajlar gönderilebilir. Bunun yanında kişiye özel propaganda yalan haberlerin yayılmasında çok etkilidir. Örneğin daha önce Obama’nın Müslüman olduğu, ABD dışında doğduğu ve dolayısıyla meşru bir başkan olmadığı söylentisi yayılmıştır. Demokratlar bunun doğru olmadığını anlatmaya çalışsalar da karanlıkta çalışan, hiçbir sorumluluk almadan yalan mesajları yayanlar bu yalanı devam ettirirler (O’Neil, 2016).

Bond vd. (2012), Facebook’taki “Oy Kullan” mesajlarının Amerikanlar’ın 2010’daki kongre seçimine katılımını etkilediğini belirtmektedir. Yapılan deneyde kullanıcılara gösterilen “Oy Kullan” mesajının, ağındaki insanların profil fotoğraflarıyla beraber gösterildiğinde daha etkili olduğu görülmüştür. Bu güç, bir taraftaki insanların oy kullanma isteğini azaltmak, diğer taraftakilerinkini artırmak için de kullanılabilir. Bu deneyden iki yıl sonra Facebook’tan Solomon Messin de başka bir deney yapmıştır. Kullanıcıların haber akışındaki arkadaş mesajları seçime katılımı etkileyebilmektedir. Tabi haber akışındaki mesaj görünürlüğünü belirleyen de Facebook’tur.

Aynı sorun Google’da da vardır. Çoğu zaman aramalarda sadece ilk sayfadaki sonuçlara bakılır. Bu nedenle, arama sonuçlarının sıralamasındaki değişiklikler kişinin bir konuda bilgi sahibi olmasını da etkileyebilmektedir. Yalan haberler ilk sayfada gösterilip, doğrular sonraki sayfalara atıldığında yalan haberlerin yayılmasına da katkıda bulunulmuş olur. İşin kötü yanı, Pew Research’in raporuna göre Amerikalılar’ın %73’ü Google’ın arama sonuçlarını doğru ve tarafsız olarak görmektedir (O’Neil, 2016).

Sosyal medya platformlarının siyasete müdahalesi (en azından şimdilik) doğrudan değildir ve daha çok bir yan etkiden söz edilebilir. Platformlardaki algoritmaların amacı insanların sitede daha çok zaman geçirmesini sağlamak ve daha çok dikkati reklam vermek isteyenlere satabilmektir. Örneğin Tüfekçi’nin (2017) anlattığı gibi vejeteryanlıkla ilgili bir video izledikten sonra youtube’un önerisi veganlıkla ilgili videolar olmaktadır. Muhtemelen algoritma insanlara seyrettiğinden daha cüretkâr videolar önererek onları sitede daha fazla zaman geçirtmek üzerine kurulu. İnsanların hangi içeriğe ne tepki verebileceği sürekli izleniyor ve geribildirimlerle modeller yenileniyor. Son tahlilde, başkan adayları da diğer platform müşterileri gibi bir şey satabilmek için bu platformlara ödeme yapmakta, belirli eğilimleri tespit etme yeteneği olan bu platformları kendi seçim kampanyaları için kullanmaktadır.

Obama’nın 2012’deki zaferinde teknolojinin önemli bir rolü vardır. Kampanya süresince Amazon’un bulut bilişim servisinden ve büyük veri analizinden yararlanılmıştır. Mosco’ya (2014) göre bu zaferin demokrasiyle veya yurttaş katılımıyla pek ilgisi yoktur. Veri yönetimini iyi yapan taraf başarıya ulaşmıştır. Trump’ın başkan olduğu son seçim de benzer bir zaferdir. Trump’ın sosyal medya yetkilisinin itiraf ettiği gibi Facebook’u insanları kendilerine oy vermeleri için değil, Demokrat seçmenleri oy kullanmamaya ikna etmek için kullanmışlardır (Tüfekçi, 2017).

Trump’un demokrat seçmenlere nasıl mesajlar ilettiği bilinmiyor. Aslında Facebook paylaşımlarımızın arkadaşlarımız tarafından görülüp görülmediğini de bilemiyoruz. Şimdi ise,

Hem halk hem de vatandaş olarak, artık aynı bilgileri görüp görmediğimizi ve başkalarının ne gördüğünü bilmiyoruz ve ortak bir bilgi tabanı olmadan, adım adım, toplumsal tartışma imkansız hale geliyor, biz bunun sadece başlangıç aşamasındayız.

Sonuç

Sosyal medya platformlarının gelir kaynağı reklamlardır. Belki henüz siyasete fazla karışmak istemiyor olabilirler ama demokrasinin adayların pazarlanmasına dönüştüğü bir çağda internetten satılan şeyin ne olduğu çok fark etmiyor; bu, başkan adayı da olabilir. ABD’de tartışılan yalan haberlerin arkasında sadece Trump olsaydı belki o kadar sorun olmayacaktı ama Rusya’ya yakın oluşumların reklam satın alarak 126 milyon Amerikalı’ya ulaşabildiği hakkında raporlar var (“How the world was trolled”, 2017). Amerikalılar’ı da en çok kızdıran ve geçen ay Google, Facebook ve Twitter temsilcilerinin senatoda ifade vermesine neden olan da Ruslar’ın ABD seçim sistemini trollemiş olma ihtimali (https://www.theguardian.com/technology/live/2017/oct/31/facebook-google-twitter-congress-russian-election-meddling-live, https://www.technologyreview.com/the-download/609280/tech-titans-admit-to-new-levels-of-russian-election-meddling/).

Hem Google hem de Facebook temsilcileri platformlarındaki istenmeyen durumlardan algoritmaları sorumlu tutuyorlar. “Bu algoritmayı geliştiren siz değil misiniz?” diye sorulabilir. Ama öyle değil; Tüfekçi’nin (2017) belirttiği gibi büyük verinin analizinde yapay öğrenme (machine learnining) algoritmaları kullanılıyor ve kendi kendine öğrenen bu algoritmalar var olan verilerden insanların özelliklerini öğrenip bunu sonraki öğrenme süreçlerinde kullanıyorlar:

Asıl sorun şu ki biz bu karmaşık algoritmaların nasıl çalıştığını artık anlamıyoruz. Bu sınıflandırmayı nasıl yaptıklarını artık anlamıyoruz. Dev matematik matrisleri, binlerce sıra ve sütun, belki de milyonlarcası… Ve tüm verilere sahip olsalar bile, ne programcılar, ne bunları inceleyen herhangi biri bunun tam olarak nasıl işlediğini anlayabiliyor. Tıpkı size beynimden bir kesit göstersem ne düşündüğümü anlayamayacağınız gibi. Sanki artık programlama yapmıyoruz, tam olarak anlayamadığımız bir bilinç geliştiriyoruz (age).

Zeynep Tüfekçi’nin “İnsanların reklamlara tıklaması için bir distopya yaratıyoruz.” başlıklı TED konuşmasını mutlaka izlemenizi tavsiye ederim (http://tiny.cc/u7duoy). Konuşmasındaki en çarpıcı örneklerinden biri bipolar kişilik bozukluğunda mani halinin ön belirtilerinin klinik semptomlardan önce sosyal medya paylaşımlarından anlaşılabileceği ve bunun hedefli reklamcılık için kullanılabileceği. Tüfekçi (2017) yapay öğrenmenin daha doğru sonuçlara erişebilmesi için daha çok veriye ihtiyacının olduğunu, bu nedenle platformların diğer veri acentelerinden veri satın aldığını söylüyor; çevrimdışı verilerin yardımıyla algoritmalar güçleniyor.

Bu nedenle, 4. Endüstri Devrimi olarak adlandırılan süreç gösterildiği gibi toz pembe değil. İnsanlara daha çok şey satabilmek adına daha çok veri toplanacak ve veri zenginleri insanlığın karşısına daha büyük bir güç olarak ortaya çıkacak. Buna karşı ne yapılabilir?

Sosyal medya platformları, insanlara şeffaflığın erdemleri üzerine konuşmayı sevseler de kendileri bundan çok uzaklar. Şirketler iç işleyişlerini gizliyorlar ve şeffaflık konusunda hiç yardımsever değiller. Ayrıca buna karşı lobi faaliyetleri yürütüyorlar. Sosyal medya şirketleri için kullanıcıların dikkatinin hedeflendiği iş modellerini değiştirmeye zorlanmaları veya kamulaştırılmaları belki bir çözüm olabilir (“How the world was trolled”, 2017). Fakat önce asıl tehlikenin insanlığı yok edecek akıllı robotlar değil yakıtı kişisel verilerimiz olan, şeffaf olmayan ve sorgulanamayan algoritmaların sahibi şirketler olduğunu görebilmemiz gerekiyor. 4. Endüstri Devrimi adıyla gelişen süreçte bir veri patlaması yaşanacak ve bu algoritmalar sosyal medya platformlarından taşarak, O’Neil’in (2016) tartıştığı MİS’lerden daha cüretkâr biçimde ama aynı içsel sorunlarla toplumsal yaşamı biçimlendirmeye çalışacak…

Kaynaklar

Bond, R. M., Fariss, C. J., Jones, J. J., Kramer, A. D., Marlow, C., Settle, J. E., & Fowler, J. H. (2012). A 61-million-person experiment in social influence and political mobilization. Nature, 489(7415), 295-298.

How the world was trolled. (2017, November 4). The Economist, 19-22.

Kosinski, M., Stillwell, D., & Graepel, T. (2013). Private traits and attributes are predictable from digital records of human behavior. Proceedings of the National Academy of Sciences, 110(15), 5802-5805.

Larose, D. T. (2005). Discovering knowledge in data: an introduction to data mining. John Wiley & Sons.

Mosco, V. (2014). To the cloud: Big data in a turbulent world. Paradigm Publishers.

O’Neil, C. (2016). Weapons of math destruction: How big data increases inequality and threatens democracy. New York: Crown Publishers.

Tufekci, Z. (2014). Engineering the public: Big data, surveillance and computational politics. First Monday, 19(7).

Tüfekçi, Z. (2017, Eylül). Zeynep Tüfekçi: We’re building a dystopia just to make people click on ads [Video]. https://www.ted.com/talks/zeynep_tufekci_we_re_building_a_dystopia_just_to_make_people_click_on_ads?language=tr

 

Notlar:

[1] Wysocki daha sonra, atıldığı okulun müdürü dahil olmak üzere birçok kişinin referansıyla, öğretmenlerin istatistiksel modellerle değerlendirilmediği zengin bir bölgede çalışmaya başlar. O’Neil’in vurguladığı gibi birçok MİS’ler daha çok yoksulların yaşamını şekillendirmeye çalışmaktadır.

 

Bir Cevap Yazın

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir