Teknoloji, Demokrasi İçin Bir Tehdit Mi?

MIT Technology Review dergisinin Ocak 2013 sayısı, “Büyük Veri Siyaseti Kurtaracak” kapağıyla çıkmıştı. Bilişim teknolojilerinin Obama’nın seçim zaferindeki payı ve Arap Baharı sonrası hala canlılığını koruyan sosyal medya platformları siyasette yeni bir dönemin habercisi olarak karşılanıyordu. İnsanlar akıllı telefonlarındaki kameralarla yaşadıkları veya tanık oldukları olayları kaydediyor ve anında tüm dünyayla paylaşıyordu. Ana akım medyanın görmediği veya göstermediği gelişmeler sosyal medyada hızla yayılıyordu. Ayrıca sosyal medya, muhaliflere yalnız olmadıklarını hissettiriyor ve muhalifler birbirlerinden güç alarak kentlerin meydanlarına akıyordu. Dünya, sosyal medyanın yardımıyla örgütlenen ayaklanmalarla sarsılırken Silikon Vadisi, dünyayı daha demokratik bir hale getirebilecek bir güce sahip olduğuna yürekten inandığı gibi insanları buna inandırabiliyordu.

Bu kapaktan birkaç yıl sonra, Arap Baharı kışa dönerken, sosyal medya canlılığını bir süre daha devam ettirdi. Ancak bu süreçte yönetenler sosyal medya kullanımında ve denetiminde ustalaştılar. Cambridge Analytica, yalan haberler ve seçim sistemlerinin bilgisayar korsanlarının saldırısına uğradığı tartışmalarıyla beraber Obama yerini Trump’a bıraktı. Aşırı iyimserlik, büyük umutlar bağlanan teknolojinin demokrasi karşıtları tarafından da kullanılabileceği ihtimalinin üzerini örmüştü. Gerçeğin ve özgürlüğün, yanlış bilgilendirme ve baskı karşısında kaçınılmaz olarak galip geleceğine inanılıyordu. Ama MIT Technology Review baş editörü Gideon Lichfield’in yazdığı gibi teknoloji, demokrasiyi kurtarmak bir yana şimdilerde onun mezarını kazmakla meşgul ve artık sosyal medyaya kulak tırmalayan bir kakofoni hakim. Bu nedenle, MIT Technology Review’ın Eylül-Ekim 2018 sayısı, beş yıl önceki iyimserlikten sonra, kuşkucu ve kötümser bir kapakla çıktı: “Teknoloji demokrasimizi tehdit ediyor. Onu nasıl kurtarabiliriz?”

Demokrasiyi seçime indirgediğimizde akla ister istemez insanların seçimlerinde ne kadar özgür olduğu sorusu geliyor. Nöropolitik üzerine çalışan araştırmacılar, insanların kimi zaman kendilerinin bile farkında olmadıkları tercihlerin anlaşılabileceğini iddia ediyorlar. Yalan haberler ve bunların yayılmasının nasıl engellenebileceği tartışılırken derin sahte (deepfake) teknolojisi, artık gördüğümüz görüntülere bile inanamayacağımızı gösteriyor. Derin sahte, telefon kameralarıyla yapılan ve sosyal medyada paylaşılan kayıtları anlamsızlaştıracak. Neyin gerçek neyin kurmaca olduğunu ayırt edebilmek zor olacak. Aynı zorluk sosyal medya botlarında da karşımıza çıkacak. Henüz sosyal medya botları kendilerini çabucak ele veriyorlar, zaten şu anda kendilerini gizlemek gibi bir amaçları da yok. Ama doğal dil işlemedeki gelişmeler sosyal medya botlarının daha iyileştirilebileceğini ve birebir propaganda aracına dönüştürülebileceğini gösteriyor.

MIT Technology Review’in gerek 2013’teki iyimser gerekse de 2018’teki endişeli kapağı teknolojik determinizm tartışmalarını akla getiriyor. Derginin kapak tercihlerinde ve dergideki bazı yazılarda (hepsinde değil!) teknolojiyi, son yıllardaki değişimin bir nedeni olarak görme eğilimi göze çarpıyor. Dolayısıyla dergideki yazılara geçmeden önce bir parantez açarak Raymond Williams’ın 45 yıl önce, Televizyon, Teknoloji ve Kültürel Biçim adlı kitabında televizyon için yazdıklarına ve teknolojik determinizm eleştirisine bakmakta fayda var. Williams kitabına aşağıdaki paragrafla başlar:

Televizyonun dünyayı değiştirdiği sıkça söylenir. Aynı biçimde, buhar makinesi, otomobil ve atom bombası gibi şu ya da bu yeni teknoloji ürünleri tarafından yaratılan yeni bir dünyadan, yeni bir toplum düzeninden veya yeni bir tarihsel dönemden sık sık söz edilir. Böyle şeyler söylendiği zaman, çoğumuz genel olarak neyin ima edildiğini biliriz. En sıradan tartışmalarımızda bu tip genel ifadelere öylesine alışkınızdır ki, onların özel anlamlarını gözden kaçırırız; asıl zorluk da bu olabilir. (s. 9)

Televizyonun yerine interneti ya da günümüzün herhangi bir popüler teknolojisini de koyabiliriz. Williams, “bu tür genel ifadelerin altında en zor ve yanıtı bulunamamış tarihsel ve felsefi sorular” yattığını ancak ifadelerin soruları maskelediğini ekler. Bu maskelemenin ardından da tartışmanın teknolojinin etkilerini hafifletme ve denetleme çabalarına kayması olağandır. Williams, televizyonun dünyayı değiştirdiği iddiası için her biri “Televizyon bilimsel ve teknik araştırmalar sonucunda icat edilmiştir.” cümlesinin ardından gelen aşağıdaki saptamaları örnek verir (s. 10-11) :

1- …Onun bir eğlence ve haberleşme yolu olarak gücü o kadar büyüktür ki, kendinden önceki tüm eğlence ve haberleşme yollarını değiştirmiştir.

2- …Onun sosyal bir iletişim aracı olarak gücü o kadar büyüktür ki, geleneksel kurumların ve sosyal ilişki biçimlerimizin bir çoğunu değiştirmiştir.

3- …Onun elektronik bir iletişim aracı olarak doğasındaki özellikleri bizim gerçeklikle ilgili temel algılamamızı ve bu nedenle de birbirimizle ve dünya ile olan ilişkilerimizi değiştirmiştir.

4- …Güçlü bir iletişim ve eğlence aracı olarak televizyon, toplumlarımızın ölçeğini ve biçimini değiştirmekte, kendisi de yeni icat edilen teknolojilerin bir sonucu olan büyük ölçüde artan fiziksel hareketlilik yanında yerini almıştır.

5- …Televizyon bir eğlence ve haberleşme yolu olarak gelişti. Daha sonra ise televizyon, yalnızca diğer eğlence ve haberleşme yollarına, onların geçerlilik ve önemlerini azaltarak etki etmekle kalmadı; bazı temel aile yapılarına, kültürel ve sosyal yaşama da etki ederek öngörülemeyen sonuçlar doğurdu.

Daha sonra Williams, televizyonun bilimsel ve teknik araştırmalar sonucunda icat edildiğiyle başlamayıp olumsal bir tutum sergileyen dört örnek daha verir:

6- Bilimsel ve teknik araştırmalarca bir olasılık olarak keşfedilen televizyon, özellikle içinde eğlence koşullarının, fikir ve davranış tarzlarının merkezi düzenlemesini barındıran yeni tip bir toplumun gereksinimlerini karşılamak üzere yatırım ve gelişme için seçildi.

7- Bilimsel ve teknik araştırmalarca bir olasılık olarak keşfedilen televizyon; daha sonra karakteristik “ev araçlarından” biri olarak yer aldığı, yeni ve kârlı ev-içi tüketim ekonomisinde yatırım ve satış artırıcı unsur olarak seçildi.

8- Televizyon bilimsel ve teknik araştırmanın sonucunda ulaşılabilir bir duruma gelerek karakterinde ve kullanımlarında pasifliğin unsurlarını sömürdü ve vurguladı. Pasiflik insanlarda daima bulunan kültürel ve psikolojik yetersizliktir; televizyon artık onu organize ve temsil eder olmuştur.

9- Televizyon bilimsel ve teknik araştırmanın sonucu olarak ulaşılabilir bir duruma geldi. Karakter ve kullanımında yeni tip büyük ölçekli fakat atomize bir topluma hem hizmet etti hem de onu sömürdü.

Williams, ilk beş örneği teknolojik determinizm kapsamında değerlendirir ve bu örneklerde teknolojinin rastlantısal olarak ele alındığına dikkati çeker. Bir diğer deyişle, icadın niçin yapılması gerektiğine dair bir açıklama yoktur. Araştırma ve geliştirme, sanki kendiliğinden ortaya çıkmıştır. Son dört örnek ise daha az deterministtir ve Williams bunları semptomatik teknoloji görüşünün örnekleri olarak görür. Semptomatik teknoloji görüşü, sosyal değişimi sadece teknolojiye indirgemez ve diğer nedensel faktörleri de göz önünde bulundurur. Fakat yine de araştırma ve geliştirmenin kendiliğinden üretimi varsayılır. Determinist yaklaşımlara karşı Williams, teknolojinin rastlantısal otonomisini reddeder ve gerçek sosyal, siyasal ve ekonomik amaçları göz önünde bulundurarak teknolojiyi toplumsal ilişkilerce belirlenen bir süreç olarak değerlendirir. Williams, teknolojik determinizmden kaçarken teknolojik belirlenmiş teknoloji fikrine tutulmamak konusunda da uyarır. Amacın varlığı, teknolojinin onun geliştirenlerin öngördüğü biçimde kullanılacağı anlamına gelmez. Farklı özneler alternatif kullanımlar geliştirebilir ve teknolojinin gelişimine yeni bir yön verebilir.

Özetle, teknolojiyi kurtarıcı ya da tehdit olarak ele almak toplumsal değişim ve teknoloji tartışmasındaki çelişki ve çatışmaların üzerini örter, sorunların aşılmasını olanaksızlaştırır. Bu nedenle, teknolojinin içinde geliştiği toplumsal koşullar, aktörler ve amaçları, aktörler arasındaki güç çatışmaları dikkate alınmadan verimli bir tartışma yürütülebileceğini düşünmüyorum. MIT Technology Review Eylül-Ekim 2018 sayısındaki tartışmayı tatmin edici bulmuyorum. Fakat dergide yer alan yazıların teknolojin geldiği aşama ve araştırmaların yönelimleri hakkında bilgilendirici olduğunu; bazı yazarların teknolojik determinizmden uzak önemli saptamalarda bulunduğunu da belirtmek isterim. Dergi, teknoloji tehdidini üç temel başlık altında inceliyor:

Buraya nasıl geldik?
Şimdi neredeyiz?
Sırada ne var?

Yazıların çoğu özellikle 2016’daki ABD seçimlerine odaklanıyor. Sanırım bu sayının çıkışını Trump’a borçluyuz.

Buraya Nasıl Geldik?

ABD Seçimleri ve Teknoloji

MIT Technology Review’in 2013’teki iyimser kapağını daha iyi anlayabilmek için Obama’nın 2008 ve 2012 yıllarındaki seçim zaferlerine bakmamız gerekiyor. Alex Howard, yazısında (From 2008 to 2020, s.28), Obama’nın ilk kez iktidara geldiği 2008’den bu yana ABD seçimlerinde kullanılan yenilikçi teknolojileri tartışıyor. 2008 seçimlerinde yenilik, yeni bir teknoloji ya da uygulama kullanmanın ötesinde halihazırdaki teknolojilerin yenilikçi kullanımı biçiminde gerçekleşmişti. Obama ve ekibinin bu seçimdeki web kullanımı basitçe adayların mesajlarının seçmenlere iletilmesiyle sınırlı değildi. E-posta, cep telefonu ve web sitelerini bir bütün olarak ele almaları başarılarında etkili oldu. Obama taraftarları bu teknolojileri birbirlerine bağlanmak ve taban hareketlerini örgütlemek için kullandılar. My.BarackObama.com sitesine sosyal ağ özellikleri eklenerek destekçilerin grup oluşturmaları, para toplamaları, yerel etkinlikler örgütlemeleri ve yakınlarındaki seçmenlerden haberdar olabilmeleri sağlandı. Howard, Obama’nın başkan adayı olarak etkileyeciliğini kabul etmekle beraber ön seçimlerde Hillary Clinton’a, genel seçimlerde de John McCain’e karşı kazanılan zaferlerde teknoloji yardımıyla örgütlenen seçim kampanyalarının önemli payı olduğunu düşünüyor.

2012’deki seçim sürecinde televizyon, tartışmalar için hala başat politika aracıydı. Ama 2012 Ağustosu’nda ABD’li yetişkinlerin büyük çoğunluğu artık Facebook’taydı. Bu da yeni olanaklar yaratıyordu. Obama’nın bilgisayar kurtlarından oluşan takımı yine başroldeydi. Mesaj iletiminden bağış toplamaya, örgütlenmeye ve kaynakların belirli bir bölgeye yönlendirilmesine kadar veri biliminin politikadaki (o zamanın) en ileri örneklerini sergilediler. Kişilerin sosyal medya etkinliklerinden yola çıkarak sosyal medya mesajlarını ve e-postaları kişiselleştiren analitik modeller geliştirdiler. Aynı dönemde Cumhuriyetçiler de teknolojiden yararlanmaya çalıştılar. Fakat fiyaskoyla sonuçlanan başarısız bir çalışma oldu.

Hillary Clinton’un 2016’daki seçim kampanyası, Obama’nın 2012’deki kampanyasının bir devamıydı. Vurucu bir uygulama geliştirmek yerine daha önce kullanılan araçları iyileştirmeyi ve geliştirmeyi tercih etmişlerdi. Google’ın eski çalışanlarından Stephanie Hannon’ın liderliğinde, mühendislerden oluşan geniş bir ekip vardı. Ekip, özellikle seçmen kaydı ve seçime katılım oranına yoğunlaşan düzinelerce araç geliştirdi. Trump’ın ekibi ise ise hazır yazılımları tercih etti. Facebook uygulamaları ve daha çok ticari reklamlar için tasarlanmış araçlardan elde edilen verilerle sosyal medya platformlarındaki ve daha küçük web sitelerindeki seçmenleri hedeflediler. Cambridge Analytica’nın 220 milyon Amerikalı’dan elde ettiği 5000 civarındaki veri noktasıyla yaptığı profillemenin Trump’ın kampanyasına katkısı büyük bir tartışma konusu olmasına rağmen Trump’ın dijital işlemlerini yöneten Brad Parscale, ısrarla bu profillerden yararlanmadıklarını, bunun yerine Cumhuriyetçi Parti’den elde ettikleri profilleri kullandıklarını ileri sürdü. Trump’ın çok sayıda mühendis ve analistten oluşan bir ekibi yoktu ama Cumhuriyetçiler’e yakınlık duyan Twitter, Facebook ve Google çalışanları doğrudan kampanya bürolarında çalıştı ve platformların en iyi nasıl kullanılabileceği hakkında parti çalışanlarına eğitim verdi. Fakat şirketlerin Demokratlar’a karşı Cumhuriyetçiler’i desteklemesi gibi bir durum söz konusu değildi. Şirketler benzer desteği Clinton’ın kampanyası için de önermelerine karşın olumsuz yanıt almışlardı. Clinton, güçlü ekibine güveniyordu, ama Facebook’un şirket içi belgelerinden anlaşıldığı üzere Trump’ın kampanyası Facebook’ta daha başarılı olmuş ve daha çok kişiye ulaşmıştı. Tabi her şey bir yana Trump’ın kışkırtıcı mesajlarını ve dikkatleri üzerine çekmedeki hünerini de atlamamak lazım. Ruslar’ın Facebook’ta yayınlattığı reklam görünümlü yalan haberler ve Rus bilgisayar korsanlarının ABD seçim sistemlerine saldırıları ise seçimin karanlık noktaları olarak kaldı.

Kısacası, Obama’nın teknolojiden yararlanması coşkuyla karşılanmış ve demokrasi açısından olumlu bir gelişme olarak değerlendirilmişti. Sosyal medya ya da daha genel anlamıyla teknolojinin artık demokrasi için bir tehdit oluşturması Trump’ı iktidara getiren olaylar dizisiyle ilişkilendiriyor. Fakat Vincent Mosco, 2014 yılında yayımlanan To the cloud: Big data in a turbulent world adlı kitabında tam da bu yaklaşımı eleştiriyordu. 2012’deki seçimlerde bulut bilişim ve büyük veri analizi,

potansiyel seçmenleri belirlemek,
seçmenleri sandığa getirmek,
televizyon reklamı alımlarını verimlileştirmek,
Twitter ve Facebook’ta mesajları hedefli bir biçimde iletmek

için kullanılmıştı. 2016 seçimlerinden iki yıl önce Mosco, Demokratlar’ın sadece veri yönetimi kaynaklarını rakiplerinden sadece daha iyi kullandıklarını ancak bunun demokrasi pratiğiyle, yurttaş katılımıyla veya herhangi bir düzeyde aktivizimle çok az bir ilgisinin olduğunu yazmıştı.

Tahrir’den Trump’a Giden Yol

Obama’nın 2012’deki zaferine mesafeli yaklaşan bir başka kişi de Zeynep Tüfekçi’ydi. Tüfekçi, (The road from Tahrir to Trump, s. 10) 2012’deki seçimden sonra mikrohedeflemeyle yapılan seçim çalışmalarının tehlikeleri hakkında endişelerini yazdığında o zaman birçok Demokrat’ın tepki gösterdiğini yazıyor. Tüfekçi, sosyal medyanın insanlara yalnız olmadıklarını hissettirdiğini fakat mikrohedeflemeyle yürütülen seçim çalışmalarında komşumuzun hangi mesajı aldığını veya mesajların zaaf ve arzularımıza göre nasıl uygun hala getirildiğini bilemeyeceğimizi belirtiyor. İnsanlar dijital platformların sayesinde örgütleniyorlar ama diğer yandan aynı televizyonu izleyen, aynı radyoyu dinleyen veya aynı gazeteyi okuyan insanların duygudaşlığı da ortadan kalkıyor, topluluklar parçalanıyor. Britanya’nın Avrupa Birliği’nden ayrılması için yapılan oylamada, Almanya, Polonya, Macaristan, Fransa ve İsveç’te aşırı sağın güçlenmesinde sosyal medyanın yalan haberlerin yayılması ve toplumun kutuplaştırılmasındaki rolüne işaret ediliyor. Diktatörleri deviren Facebook’un Filipinler diktatörü Rodrigo Duterte’ün seçim stratejisine katkısı ya da bir BM raporunda da yer aldığı üzere Facebook’un Myanmar’da gerçekleştirilen etnik temizlikteki payı son zamanlarda tartışılan konular.

Fakat bir çok tartışmada, sosyal medya teknolojilerinin arkasındaki sosyal, ekonomik ve siyasi amaçlar dikkate alınmadan sadece sorunların etrafında dolanıp duruluyor. Radyo ve televizyonda yayınlanan siyasi reklam ve içeriklerdeki şeffaflık ve sorumlu tutulabilmenin, kişilerin mikrohedeflemeyle farklı reklamlara maruz kaldığı sosyal medya platformlarında bulunmamasının birçok sorunun kaynağı olduğu doğrudur. Ama sorunu buraya kadar takip edip bıraktığımızda ya da bunu teknik bir sorun olarak algılayıp çözmeye çalıştığımızda işler içinden çıkılmaz bir hal alıyor. Tüfekçi, tartışmayı burada bırakmayarak sorunun kökenine iniyor. Kamusal ve kolektif siyasetin yerini özel ve parçalanmış siyasete bırakmasını, insanları ekran karşısında daha fazla tutmak (ve böylece şirket karlarını artırmak) üzere tasarlanmış algoritmalarla ve sosyal medya platformlarının iş modelleriyle ilişkilendiriyor.

Tüfekçi, son on yılın önemli dersler içerdiğini ifade ediyor. Birinci olarak eski medyadaki denetleyicilerin zayıflamasının çelişik bir durum yarattığına, bir yandan muhalifleri güçlendirirken diğer yandan onları daha da zayıflattığına dikkat etmek gerekiyor. Biz daha çok ilkine yoğunlaşmak gibi bir hata yapıyoruz. Muhaliflerin, insanları dünyada bir şeylerin değişmesi gerektiğine ve bunun mümkün olduğuna ikna etmeye ihtiyaçları var. Dijital platformlar sayesinde sansürü daha rahat aşabiliyorlar ama hareket ettikleri medya alanı geçmişe göre daha bulanık. Çünkü otoriter rejimler ve aşırılık yanlıları, özellikle suyu bulandırmaya ve medyaya olan güveni zayıflatmaya çalışıyor. Bulanıklık sayesinde muhalefet parçalanıyor ve hareket edemez hale geliyor. Geçmişte medya denetleyicilerin uyguladığı sansür gerçeklerin yanında yanlış bilgilendirme ve haberlerin yayılmasını da engelliyordu. İkinci ders, algoritmik denetleyicilerin tarafsız olmadığı. Sosyal medya, iddia edildiğinin aksine doğrunun da yanlışın da içinden akabildiği tarafsız mecralar değil. Kullanıcıları platformlarında daha çok tutarak para kazanmak için kullanıcıların eğilim ve tercihlerindeki zaaflardan yararlanıyorlar. Böylece yanlış haber ve nefret söylemi için elverişli bir zemin oluşuyor. Üçüncü ders, dijitalleşme özellikle yerel medyaya büyük zarar verdi. Tüfekçi, yerel medyanın ortadan kalkması sonucunda yalan haberlerin daha etkili olduğunu, Ruslar’ın sosyal medyada yalan haberleri yayarken ABD’nin bu zaafından yararlandığını belirtiyor. Dördüncü ders ise ABD’nin siber saldırılara karşı aşırı özgüveninin onu savunmasız bırakması ile ilgili. ABD, yazılım bugları, gizli arka kapılar, yetkisiz erişim sağlayan programlar konusunda tüm ülkelerden daha bilgili. Ayrıca Dünyanın en büyük şirketlerine, hesaplama gücü yüksek bilgisayarlara ve dünyanın sayılı bilgisayar uzmanlarına sahip. Bu ayrıcalıklarıyla diğer ülkelerin halihazırdaki güvenlik önlemlerini aşabileceklerini ama kendilerinin dokunulmaz olduğunu düşünüyorlardı. Ama Rus bilgisayar korsanlarının seçim sistemlerine saldırıları hakkındaki iddialar ABD’yi sarstı. Başka ülkelerin siyasi süreçlerine müdahale etmek onların uzmanlık alanıydı.

Yenilgi Sonrası İyimserler

Tim Hwang, (A field guide to the depressed former internet optimists, s. 32) başlıklı yazısında 2000’li yıllarda insanların internet hakkındaki düşüncelerine göre iyimserler ve kötümserler olarak iki kampa ayrıldıklarını hatırlatıyor. İyimserlere göre internet, doğası gereği demokratikleştiriciydi. Bireyleri ve kendini örgütleyen toplulukları ölmek üzere olan kurumlara karşı güçlü kılıyordu. Kötümserler ise internetin gözetim ve kontrolü kolaylaştırdığını, hükümetleri ve dev şirketleri güçlendirmeye hizmet ettiğini savunuyordu. Hwang, kötümserlerin ve iyimserlerin internetin kendine özgü özellikleri olduğunu varsayarak hata yaptıklarını, internetin farklı çıkarların çatışmasıyla şekillendiğini belirtiyor. Neyin işleyip işlemediğini açıklıkla itiraf edip üzerine gidebilecek yeni bir iyimserliğe ihtiyaç olduğunu düşünüyor.

Hwang, yenilen devrimlerde olduğu gibi, eski iyimserliğin yerini bu beklenmedik yenilgiyi açıklamaya çalışan yeni tip iyimserliklere bıraktığını ifade ediyor. Hwang, yeni iyimserleri dört gruba ayırıyor. Birinci grupta, özleştirmeciler (purists) var. Özleştirmeciler, daha önce muhteşem bir yer olan internetin şirketler ve ticarileşme nedeniyle bozulduğuna inanıyorlar. Bu nedenle, blokzincir gibi internetin ademimerkeziyetçi özünü yeniden canlandırabilecek teknolojileri büyük coşkuyla karşılıyorlar. Ayrıca son yıllardaki hayal kırıklıklarının sorumlusu olarak şirketleri ve reklamcılığı gördüklerinden şirketlerin parçalanması ve reklam belasına son verilmesi gibi öneriler getiriyorlar. Hwang ikinci grubu gözü açılanlar (disillusioned) olarak adlandırıyor. Özleştirmeciler, internetin bir altın çağı olduğuna inanırken gözü açılanlar böyle bir altın çağın hiç yaşanmadığını, internetin hiçbir zaman muhteşem olmadığını ve en başından itibaren yanıldıklarını düşünüyorlar. Umutlular olarak adlandırılan üçüncü grup ise ufak hareketlerden büyük umutlar devşiriyor. Örneğin son zamanlarda gençlerin Facebook’tan kopmaları ya da bazı ülkelerdeki dijital demokrasi deneyleri bu grubu heyecanlandırmaya yetiyor. Dördüncü grupta yer alan revizyonistler ise internetin temel prensiplerinin doğru olduğunu ancak daha iyi topluluklar ve sistemler tasarlamak için yeni bir çaba gerektiğini düşünüyor.

Şimdi Neredeyiz?

Dijital Sistemlerde Oylar Ne Kadar Güvende?

Özellikle 2016’daki seçimlerden sonra tartışmaya başladığımız seçim güvenliği, yalan haberler, hedefli reklamcılık ve sosyal medyanın kutuplaştırıcı etkisi gibi sorunlar hâlâ güncelliğini koruyor. Martin Giles’in Michigan Üniversitesi, Bilgisayar Güvenliği ve Toplum Merkezi’nden J. Alex Halderman ile yaptığı röportajdan da anlaşılacağı üzere ABD seçim sisteminin güvenliği konusunda hala ciddi bir endişe var (Your vote is in jeopardy, s. 44). Halderman, bir siyasi partinin kendi çıkarlarına uygun bir şekilde seçim bölgelerini yeniden düzenlemesi gibi girişimleri demokrasi içi tartışmalar olarak görürken seçim sistemlerine karşı yapılan saldırıları demokrasinin temellerine yapılmış saldırılar olarak değerlendiriyor.

Seçim sistemi, aşağıdaki gibi dört bölüme ayrıldığında her bir bölümün çeşitli riskler içerdiği anlaşılıyor:

Seçmen tescil sistemi
Seçmen kaydı
Seçim makineleri
Oy sayımı ve raporlama

Seçmen tescil sistemi, oy kullanabilecek kişilerin kaydını tutuyor. Birçok seçmen tescil sistemi eski, 41 eyalette on yıldan eski sistemler kullanılıyor. Sistemlerin seçmen bilgilerini almak ve seçmen kütüklerine iletmek için ağ bağlantısına ihtiyacı var. Bilgisayar korsanları bu sistemlerin çalıştığı sunucuları hedef olarak seçebilir. Başarılı oldukları taktirde seçmen bilgilerini silebilir veya sahte seçmenler yaratabilirler. 12 Rus bilgisayar korsanı, 2016 seçimlerinde yaklaşık yarım milyon seçmenin verilerini çalmakla suçlanıyor.

Birçok eyalette seçim görevlileri, oy kullanmaya gelen seçmenleri doğrulamak ve kaydetmek için kağıt yerine tablete benzer elektronik seçmen kütüklerinden yararlanıyor. Bu tabletler çoğu zaman bir ağ üzerindeler ve özel yazılımlar kullanıyorlar. Tabletlerin ağa bağlı olması bilgisayar korsanlarının saldırıları için bir hedef olduğu gibi tabletlerde çalışan yazılımları geliştiren şirketlere yapılacak bir saldırı (yazılıma, kötü amaçlı bir kod eklemek gibi) seçim günü bir kaos yaratmaya yetecektir.

ABD’de iki tip elektronik seçim makinesi kullanılıyor. Birincisinde, kağıt oy pusulaları optik okuyucuyla okunuyor ve kaydediliyor. İkinci tip makinelerde ise seçmenlerin karşısına oy pusulası ekranı çıkarılıyor ve seçmenler bunun üzerinden bir tercih yapıyor. Sadece bazı makineler kağıt çıktı üretiyor. ABD’de 13 eyalet kağıtsız seçim makinesi kullanıyor, bunların 5 tanesi tamamen bu makinelere güveniyor ve kağıda ayrıca kayıt yapmıyor. Seçim sistemleri bir seçim merkezi ya da şirket tarafından tasarlandıktan sonra usb belleklerle ya da hafıza kartlarıyla seçim makinelerine yerleştiriliyor. Bu merkezler ya da makinelerin kendisi bilgisayar korsanlarının hedefinde olabilir. Ama asıl sorun, saldırıdan şüphelenildiğinde kağıtsız makinelerde geriye dönük bir araştırma yapmak zorlaşıyor.

Oy sayımı, standart işletim sistemi kullanan bilgisayarlarda yapılıyor. Bilgisayar korsanları, oy sayımına seçim sonuçları hakkında şüphe ve güvensizlik oluşturmak için saldırabilirler. 2014 yılında Ukrayna’da seçime ait bazı anahtar dosyaların silinmesinin arkasında Rus bilgisayar korsanlarının olduğundan şüphelenilmektedir. Bu tip saldırılar, oyların yeniden sayımıyla açığa çıkarılıp etkisizleştirilebilir. Ama süreç iyi yönetilmediğinde seçmenlerin, seçime olan güvenini sarsar. ABD buna karşı seçim sonuçlarını açıklamada temkinli davranarak seçim bölgelerinden gelen sonuçların sağlamasını yapmadan resmi sonuçları duyurmuyor.

Bir gün, bizim seçim sistemimizdeki sorunların dijital teknolojilerin kullanımıyla çözüleceğini ileri sürenler olursa bu riskleri hatırlayalım. Kağıt ortadan kalkacak, hayat tamamen dijitalleşecek düşünden sonra Halderman’ın bazı risklerin ortadan kaldırılabilmesi için her oyun kağıda da kaydedilmesini önermesinin üzerinde durmak lazım. Günümüzde blok zincir teknolojisinin güvenliği seçimleri daha güvenli hale getirebileceğini savunanlar olacaktır. Belki de sorunu (ve çözümü) güvenliğin ötesinde, başka bir yerde aramak gerekiyor!

Derin Sahte (Deepfake)

Birkaç yıl öncesine kadar dijital teknolojiler, medya tekellerinin sansürünü aşarak gerçekleri halka ulaştırabilmenin eşsiz bir aracı olarak göklere çıkarılıyordu. Fakat önceki bölümlerde de yazdığım gibi 2016’daki ABD seçimlerinden sonra sosyal medyanın aynı zamanda yalan haberlerin yayılması için de eşsiz bir araç olduğu anlaşıldı. Sosyal medya platformları yalan haberlere karşı çözümler geliştirmeye çalışıyorlar. Kasım ayında yapılacak ABD ara seçimlerinde Twitter, Facebook ve Google seçim reklamlarını daha şeffaf yapacaklarını duyurdular. Reklam verenlerin kim oldukları gösterilerek Ruslar’ın yalan ve kutuplaştırıcı reklamlarla seçime bir kez daha müdahil olabilmeleri engellenecek.

Ancak bu ara seçimde ya da sonraki seçimlerde ABD’yi daha büyük bir tehlike bekliyor: Derin sahte. Will Knight yazısında (Fake America great again, s. 36) bu teknolojiyi ve buna karşı uygulanabilecek önlemleri tartışıyor. Derin sahte, derin öğrenme (deep learning) ile sahte (fake) sözcüklerinin birleşiminden oluşuyor. Kamuoyunun 2017 tanıştığı derin sahte teknolojisi yardımıyla videolardaki yüzleri değiştirmek mümkün. Başta Reddit olmak üzere bazı sitelerde derin sahte teknolojisi kullanılarak kişilerin fotoğraflarının porno videolardaki aktrislerin yüzüne montajlandığı sahte videolar paylaşılmıştı. Videolar üç adımda üretiliyordu. Birinci adımda kişinin çok fazla fotoğrafı elde ediliyor. İkinci adımda pornografik video seçiliyor. Üçüncü adımda da derin öğrenme ile kişinin fotoğrafının videodaki kişiye montajlandığı bir porno video hazırlanabiliyordu. Bazı politikacılar için de derin sahte videoları hazırlandı. Arjantin Başkanı Mauricio Macri’nin yüzünü Adolf Hitler’inkiyle, Angela Merkel’in yüzünün de Donald Trump’ınkiyle değiştirildiği videolar, video portallarında ve sohbet odalarında paylaşıldı. Hatta Jordan Peele ve Jonah Peretti’in hazırladığı bir derin sahte videosunda Obama, derin sahtenin tehlikelerini anlatıyor (https://www.vox.com/2018/4/18/17252410/jordan-peele-obama-deepfake-buzzfeed).

Reddit gibi Pornhub da derin sahte teknolojisi ile üretilen sahte videoların yüklenmesini yasaklamış. Ama bu yazılımlara erişmek ve yazılımları farklı amaçlar için kullanmak giderek kolaylaşıyor (bkz. https://www.deepfakes.club/openfaceswap-deepfakes-software/). Lyrebird ise aynı teknolojiyi kişilerin sesini montajlamak için kullanıyor. Lyrebird, https://www.youtube.com/watch?v=YfU_sWHT8mo adresindeki videoda Obama’ya demo yaptırıyor.

Bu tip videoların üretilmesi daha kolay hale geldiğinde ve sayıları arttığında insan neye inanıp inanamayacağını kestiremeyecek. Videolardaki sahteliği tespit için bazı yollar öneriliyor. Örneğin, düzensiz göz kırpma videonun derin öğrenmeyle üretildiğinin delili olabilir ama bunu fark edebilmek o kadar kolay değil ve videoları uzun uzun incelemek için çoğu zaman yeterli vakit olmayacaktır. Bu nedenle, teknolojiyle gelen bu soruna karşı sahteliği tespit edebilecek yeni teknolojiler üzerinde çalışılıyor.

Derin sahte teknolojisi gelişip yaygınlaştığında (kullanımı kolaylaştığında) gerçek yalanın, yalan gerçeğin yerine geçecek. ABD sahte videoları daha çok seçim ve yalan haberler bağlamında tartışıyor. Ancak yalan görüntü ve sesin insanları galeyana getirmek için de kullanılabileceğini göz ardı etmemek gerekiyor.

Çin

Dergide, Çin’le ilgili iki yazı var. Yasheng Huang, Çin’deki mahremiyet algısını tartıştığı yazısında (Can big data tame Big Brother?, s. 42) Çinliler’in mahremiyete yaklaşımının Batılılar’dan farklı olduğuna dikkati çekiyor. Çinliler için mahremiyetin, ekonomik büyüme ve gelirin yanında ikincil olduğunu yazıyor. Ayrıca 1980’lere kadar mahremiyet kelimesinin Çin’de olumsuz bir anlam içerdiğini ve kirli bir sırrı saklamakla eş değer görüldüğünü belirtiyor. Fakat Huang, büyük veri teknolojisinin Batı’da olduğunun tersine mahremiyet için bir tehdit olmadığını (zaten sınırlı mahremiyet olduğu için), tam tersine onun sayesinde Çinliler’in mahremiyete karşı yaklaşımlarını değiştirdiklerini savunuyor. İnsanlar WeChat platformunda ya da Ali Baba’da çok az tanıdıkları ya da hiç bilmedikleri insanlarla iş ilişkisine girdikçe kişisel yakınlığa önem veren Konfüçyüsçü kültür de sarsılmaya başlamış. Çinliler mahremiyete daha fazla önem göstermeye başlamışlar. Huang, çoğu zaman toplulukların iç denetimiyle sağlanan gözetimin Çin’de büyük veri teknolojisi öncesinde de yaygın olduğunu belirtiyor. Bu nedenle, büyük veriyle gelen gözetim Çin’de Batı’daki kadar tartışma konusu olmuyor.

Christina Larson, Çin hakkındaki yazısına (Who needs democracy when you have data?, s. 50) Isaac Asimov’un Franchise adlı hikayesiyle başlamış. Bir vatandaş, tüm nüfusu temsil etmek üzere seçilmiştir ve Multivac adlı bir bilgisayarın sorularına yanıt vermekle yükümlüdür. Multivac, vatandaşın yanıtlarını alarak hiç gerçekleşmemiş bir seçimin sonucunu tahmin etmektedir. Larson, Multivac’a benzer bir sistemin Çin’de inşa edilmeye çalışıldığını yazıyor. Otoriter bir rejim, toplumun alt katmanlarında ne olup bittiğini, halkın hoşnutsuzluklarını ve taleplerini bilmek zorunda olduğunu; bunun özellikle dünyanın beşte birini barındıran ve giderek karmaşıklaşan bir ekonomi ve topluma sahip Çin’de daha elzem olduğunu vurguluyor. “Kamusal tartışma, yurttaş aktivizmi ve seçim geri bildirimi olmadan bir hükümet karar verirken nasıl bilgi sahibi olabilir? Vatandaşların katılımını desteklemeyen bir hükümet güveni nasıl sağlayabilir mi?” diye soruyor. Ardından Çin’in veriye dayalı yönetim sisteminin popülizm, istikrarsızlık, tehlikeli biçimde kişiselleştirilmiş liderlik gibi demokrasiye içsel sorunlarla boğulmuş durumda olan Batı’nın seçime dayalı sistemine bir alternatif olup olamayacağını tartışıyor.

Larson, 2012’de Şi Cinping’in Çin Komünist Partisi Genel Sekreteri olmasından sonra Çin’in önemli teknolojik atılımlar yapmasının yanında veriye dayalı bir yönetim sistemine yöneldiğini yazıyor. Larson, Çin’in teknolojiyle yönetimi birleştirdiğine dair bilinen bir ana plan olmamasına karşın çok sayıda inisiyatifin ortak stratejisinin insanlar ve şirketler hakkında veri toplamak; toplanan veriyi de karar verme ve (teşvik ve ceza sistemi oluşturarak) insan davranışlarını etkileme amacıyla kullanmak olduğunu savunuyor. 2014’de çıkan Sosyal Kredi Sistemi, 2016’daki Siber Güvenlik Kanunu, yerel yönetimlerin ya da özel girişimlerin başlattığı, kimi zaman deneysel olan sosyal kredi ve akıllı şehir planları bu stratejiye göre işliyor.

Şu an henüz pilot uygulamaları olan sosyal kredi sisteminin 2020’ye kadar tüm ülkede yaygınlaşması planlanıyor. Çin hükümetine göre bu sistemler dürüstlüğü ve toplumdaki güvenilirlik düzeyini artırmayı hedefliyor. Vatandaşlar notlarına göre bazı haklara sahip olacak ya da bazı şeyleri yapamayacak. Çin bu tip sistemlerin yardımıyla insanların ve kurumların davranışlarını izleyebilecek ve yönetebilecek. Sistemde herhangi bir aykırılık tespit edildiğinde bu durum diğer bölümleri de uyaracak. Sistemin ana hedefi ekonomik gelişmeyi ve sosyal yönetimi desteklemek. Veriye dayalı yönetim trafik sıkışıklığı , hava kirliliği gibi birçok alanda Çin’in işini kolaylaştırmış. Tıkanan Batı demokrasilerinin alternatifi bu olamaz ama Çin’in veriye dayalı yönetimini eleştirmeden önce aynı yönetim biçiminin ABD’nin neoliberal ekonomisi altında parça parça hayata geçirildiğini de atlamamak gerekiyor.

Sırada Ne Var?

Nöropolitika

Uzun yıllar, Google ve Facebook’un elindeki veri, bunun sadece internet kullanıcılarına reklam göstermek amacıyla kullanılabileceği düşünülerek küçümsendi. Çıkan reklamları görmezden geldiğimizde verinin gücü de etkisizleşecekti. Ancak Facebook ve Cambridge Analytica skandalı adayların pazarlandığı demokraside veriden elde edilen etkileme gücünün küçümsenmemesi gerektiğini gösterdi. Elizabeth Svoboda’nın yazısında (Neuropolitics, s 64) tartıştığı gibi nöropolitik alanındaki çalışmalar tehlikeli bir yolun henüz başında olduğumuza işaret ediyor.

Şu anda bile insanların yüzlerine bakarak duyguları tahmin edilebiliyor (bkz. https://emotionresearchlab.com). Yüzden anlık duyguların okunmasıyla çoğu zaman kişinin kendisinin bile farkında olmadığı sinyaller elde edilebiliyor. Nörodanışmanlar, seçmenlerin adayın konuşmasına verdiği tepkileri analiz ederek adaya daha etkili olabilmesini sağlayacak taktikler veriyor. Şirketin CEO’su Maria Pocovi, yazılımlarının 6 evrensel duyguyu, 101 ikincil duyguyu ve 8 ruh halini tespit edebildiğini iddia ediyor. Bu yazılımın, mesajlarının seçmenler üzerinde nasıl bir duygu yarattığını merak eden politikacıları cezbetmesine şaşırmamak lazım. Pocovi, ayrıca kalabalık bir toplulukta bireylerin yüzlerindeki duygusal tepkileri de izleyebileceklerini iddia ediyor. Pocovi, danışmanlık hizmeti verdikleri politikacıların konuşmalarının kitle üzerindeki etkisini analiz ettiklerini ve çeşitli önerilerle daha iyi bir etki bırakabilmelerine yardımcı olduklarını söylüyor.

Nöropazarlama üzerine çalışmaları olan Roger Dooley, politikacıların (çoğu zaman kabul etmekte gönülsüz davranmalarına karşın) nörodanışmanlık hizmetine başvurduklarını söylüyor. 2016’da Clinton’ın ya da Trump’ın nöropazarlamadan yararlandığına dair elde bir bilgi yok. Fakat Cambridge Analytica’nın ana şirketi olan ve 2016’da Trump adına çalışan SCL, seçmenlerin adaylar hakkında hissettiklerini doğrulamak için yüz analizinden yararlandıklarını açıklamıştı.

Nörodanışmanlar seçmenlerin açıklamak istemedikleri ya da açıklayamadıkları gerçeklere erişebilmeleriyle övünüyorlar. Nörodanışmanların en çok alıntı yaptıkları kişinin iktisat Nobel ödülü sahibi psikolog Daniel Kahneman olmasına şaşırmamak lazım. Kahneman’ın tezine göre iki farklı düşünce sistemimiz var. Birincisi, otomatik ve hızlı çalışmakta, gönüllü bir kontrol içermemekte. İkinci sistem ise bilinçli ve uzun süreli düşünme üzerine kurulu.

Siyasette, genellikle ikinci sisteme odaklanılır ve uzun uzun konuşarak insanlar ikna edilmeye çalışılır. Ama reklamcıların, yani ani kararlarla insanlara bir şey aldırmak isteyenlerin, birinci sistemi hedeflemesi gerekir. Tüketici, uzun uzadıya düşünmeden kararını vermeli ve harekete geçmelidir. Seçimlerde de siyaset üzerine uzun uzadıya düşünen insanların siyasi çizgilerini değiştirmeleri zordur. Fakat birinci sisteme hitap ederek seçim yaklaşırken insanları oy vermeye ya da vermemeye yönlendirmek daha etkili olacaktır.

Exeter Üniversitesi’nden, politik eğilimler üzerine çalışan siyaset bilimci Prof Darren Schreiber, bilişsel testlerin insanların oy verme eğilimleri hakkında farklı sonuçlar verdiğini söylüyor ve nöropazarlamanın iddialarına aşırı kapılmamak gerektiği konusunda uyarıyor. Ama teknolojik gelişmelerin endişe verici olduğunu da eklemeden edemiyor. Demokrasi, çeşitli enformasyondan beslenen ve akıl yürüterek karar veren rasyonel faillerin varlığını varsayar. Schreiber’a göre nörodanışmanların iddialarının yarısı bile doğruysa bu varsayımı gözden geçirmemiz gerekecek.

Propaganda Botları

Botlar, sürekli tekrarlanan işleri yerine getirmek için geliştirilmiş yazılımlar. Şirketler ve yayıncılar son yıllarda botları sosyal medya hesaplarını işletmek için kullanmaya başladılar. Böylece sosyal medya kullanıcılarını sıcak gelişmeler ve yeni çıkan içerikler hakkında anında bilgilendirebiliyorlar. Fakat Lisa-Maria Neudert’in yazdığı (Teaching propaganda how to talk, s. 72) gibi sahte hesapları işletmek ve bunlar aracılığıyla insanları etkilemek için de botlara başvuruluyor. Botlar aracılığıyla aşırı görüşler sosyal medyada hızla yayılabiliyor. Ayrıca botlar, gerçek kişileri takip ederek ya da bu kişilerin paylaşımlarını beğenerek, paylaşarak ve retweet ederek gerçek kişilerin görünürlüklerini artırıyorlar. 2016 seçimlerinden sonra sosyal medya platformları bot hesapları belirlemek ve silmek için daha özenli davranıyorlar.

Botların gücü henüz niteliklerinden değil niceliklerinden geliyor. Bir bot ordusu, arka arkaya attığı postalar ve yanıtlarla internetteki demokratik söylemi boğabilme gücüne sahip. İnsanlar zamanla botları kolayca tespit etmeyi ve etkilerini azaltmayı öğrendiler. İşin aslı botlar kendilerini gizlemek için bir çaba da harcamıyorlardı. Mesajların içeriği veya profil resimleri botları hemen ele veriyorlardı.

Fakat daha usta propaganda botları ile karşı karşıya kalmamız yakın gibi görünüyor. Doğal dil işlemedeki gelişmeler sonucunda yeni nesil sohbet botlarıyla tanışmaya başladık. Amazon’un Alexa’sı, Google Assistant ve Microsoft’un Cortana’sı yeni sohbet botları olarak ortaya çıktılar. Bu sohbet botları hızla gelişiyor ve yetkinleşiyor. Neudert, bu sohbet botlarıyla konuşulduğunda kimliklerini açıkça ortaya koyduklarını ancak karşı karşıya kalacağımız propaganda botlarının kimliklerini gizleyebileceğini düşünüyor. Neudert propaganda botlarının yeterince başarılı olmadığını ama gelecekte sohbet botlarının özel sohbet odalarında etkilenmeye yatkın kullanıcılarla iletişime geçmeye çalışacaklarını tahmin ediyor. Böylece genel kanallardan herkese propaganda yapmak yerine nüfuz sahibi insanlara veya karşıt görüşlü olanlara odaklanabilecekler. Tabi bunun şimdilik sadece bir tahmin olduğunu belirtmekte fayda var. Ama gidişat dikkate alındığında gerçekleşme olasılığı çok yüksek olan bir tahmin.

***

Bir yandan nöropolitikle robotlaşan insanlar diğer yanda propaganda yapan botlar… Her ikisi de teknolojinin bir tehdit olmasının ötesinde kapitalist demokrasinin tükendiğini gösteriyor.