"Enter"a basıp içeriğe geçin

Yapay Zeka ve Diğer Gerçekler

Uzunca bir süre iktisatçılar bilişim teknolojilerinin beklenen verimlilik artışını getirmediğine işaret ettiler. İktisadi büyüme konusunda yaptığı çalışmalarla tanınan Robert Solow 1987 yılında, bilgisayarların verimlilik istatistikleri dışında her yerde olduğunu belirtiyordu. Fakat 1990’ların ikinci yarısında, özellikle de internetin etkisiyle beraber bu durum değişmeye başladı.

Benzer bir tartışma bir süredir yapay zeka (YZ) ve diğer yeni dijital teknolojiler için de gündemdeydi. İktisatçılar yine söz konusu teknolojilerin ekonomik büyüme konusunda beklentilerin oldukça gerisinde kaldığından söz ediyordu. Özellikle 2010’lu yıllar, ABD’deki işgücü verimliliği açısından pek parlak geçmemişti. Ancak ABD’de son iki yıldır işgücü verimliliğinde kayda değer bir artış var ve işgücü verimliliği 2021’in ilk çeyreğinde %5,4 ile son 20 yılın en yüksek seviyesine ulaşmış durumda. Brynjolfsson ve Petropoulos (2021), YZ gibi yeni teknolojiler ortaya çıktığında ilk başta yavaş olan verimlilik artışının sonraki yıllarda hızlandığını savunuyor. Fakat teknolojinin bunun için tek başına yeterli olamayacağını da ekliyorlar. Buhar makinesi veya bilgisayarlarda olduğu gibi üretkenlik artışı için teknoloji yatırımlarının yeni iş süreçleri, beceriler ve diğer maddi olmayan sermaye türlerine yapılan daha büyük yatırımlarla bir araya gelmesi gerekiyor. Örneğin elektrik, üretim bantlarının yeniden düzenlenmesiyle verimliliği artırabilmişti.

Brynjolfsson ve Petropoulos’a (2021) göre bu seferki verimlilik artışı çok daha hızlı ve büyük olabilir. Bu iyimserliklerini üç maddede özetliyorlar. Birincisi, son yıllardaki teknolojik atılımlarla ilgili. Geçtiğimiz on yılda, veri saklama maliyetlerindeki düşüş ve hesaplama gücündeki artışın yapay öğrenme algoritmalarıyla buluşması sonucunda firmalar yeni teknoloji ve çözümler geliştirdiler. Hızla büyüyen bulut bilişim pazarı, daha küçük firmaların da bu yeniliklerden yararlanabilmesi sağladı. Ayrıca biyomedikal ve enerji alanlarında da önemli yenilikler meydana geldi. İkincisi, işin yeniden örgütlenmesi. Covid-19, firmaların bir süredir denediği ve kararsız adımlar attığı uzaktan çalışma uygulamalarını hızlandırdı ve bir kısmı uzaktan çalışmaya Covid-19 sonrasında da devam edeceğini duyurdu. Üçüncüsü ise, ABD’de uygulanan agresif maliye ve para politikası ile ilgili. Hükümetin Covid-19 yardım paketi, mayıs ayında %5,8 olan işsizlik oranını Covid-19 öncesindeki duruma (%4) döndürebilir. Düşük işsizlik seviyeleri ücretlerin yükselmesine neden olacağından verimliliklerini daha fazla artırmak isteyen firmaları, teknolojinin potansiyel faydalarını toplama konusunda daha fazla teşvik edebilir. Böylece istihdamdaki artış, üretkenlik patlamasının gelişini hızlandırabilir.

Brynjolfsson ve Petropoulos (2021), bu üç faktörün bir araya gelmesinin, yalnızca yaşam standartlarını doğrudan artırmakla kalmayacağını, aynı zamanda daha iddialı bir politika gündemi için kaynakların serbest bırakılmasını sağlayacağını öne sürüyor. Verimlilik ve ABD ekonomisinin geleceği hakkındaki tezleri doğru olabilir. Ama gerçekliğin sadece bir kısmını yansıtıyor. “Gerçek” derken komplo teorilerinden, şirketlerin ve hükümetlerin gizli gündemlerinden söz etmiyorum. Daha basit ama fazla konuşulmayan gerçekler var. Örneğin, “hızla büyüyen bulut bilişim pazarının daha küçük firmaların da bu yeniliklerden yararlanabilmesi sağladı” cümlesi doğru olabilir. Peki ya hızla büyüyen bulut bilişim pazarının çevreye maliyeti nedir? Uzaktan çalışma artıyor ve istihdam modelleri değişiyor. Peki YZ, çalışma koşullarını nasıl değiştiriyor ve bu değişim, işçiler için ne anlama geliyor? Yeni teknolojilerin çevreye maliyetini ve uygulanabilir hale getirdiği emek süreçlerini dikkate almadığımız sürece “Esnek Çalışma İklim Değişikliğiyle Mücadelede Yeni Bir Silah Olabilir” (https://turk-internet.com/esnek-calisma-iklim-degisikligiyle-mucadelede-yeni-bir-silah-olabilir/) gibi haberleri de eleştirel gözle değerlendiremiyoruz.

Ayrıca YZ’den beklentilerle YZ’nin günümüzdeki kullanım alanları, içerdiği ve neden olduğu sorunlar arasında geniş bir açı var. Facebook’un reklam algoritmaları hala iş ilanlarını gösterirken cinsiyet ayrımı yapıyor (https://www.technologyreview.com/2021/04/09/1022217/facebook-ad-algorithm-sex-discrimination/). Tüketicilerin güvenirliğini ölçmek için kullanılan kredi notlarının kapsamı son yıllarda daha da genişledi ve şimdi araba satın alırken, ev kiralarken veya tam zamanlı bir iş bulurken çok daha belirleyici oluyorlar ve çeşitli adaletsizlikleri de beraberlerinde getiriyorlar (https://www.technologyreview.com/2020/12/04/1013068/algorithms-create-a-poverty-trap-lawyers-fight-back/). Covid-19 sonrasında dijital gözetimin de genişlediğini ve derinleştiğini görüyoruz. Bir zamanlar veri yönetişimi hakkında attığı adımlarla gündeme gelen Brezilya, özellikle Covid-19 sonrasında veri toplama faaliyetlerini artırdı ve gözetim altyapısını genişletti (https://www.technologyreview.com/2020/08/19/1007094/brazil-bolsonaro-data-privacy-cadastro-base).

Tüm bu gelişmeleri elbette salt YZ ve diğer dijital teknolojilere indirgeyemeyiz. Değişim, dünyadaki ekonomi politik gelişmelerle doğrudan ilişkili. Örneğin Brezilya’da faşist bir yönetim var ve bu yönetimin gözetim teknolojilerine yönelmesi olağan bir durum. Ama, YZ’nin de bu değişimin neresinde olduğunu sorgulamamız gerekiyor. Kate Crawford’un Yapay Zeka Atlası (Atlas of AI) adlı kitabında ayrıntılı bir biçimde tartıştığı gibi YZ, insan yönlendirmesi olmadan belirlemeler yapan nesnel, evrensel veya tarafsız bir hesaplama tekniği değil. YZ sistemleri, insanlar, kurumlar ve zorunluluklar tarafından şekillendiriliyor ve sosyal bağlamlarda uygulandıklarında, mevcut yapısal eşitsizlikleri yeniden üretip genişletebiliyor. Devletlere, kurumlara ve şirketlere fayda sağlamak ve dünyaya onların çıkarları doğrultusunda müdahale etmek için inşa ediliyorlar. Crawford (2021), okuyucuya farklı bir YZ anlatıyor ve pek konuşulmayan gerçeklerden söz ediyor. Örneğin, veri madenciliği oldukça popüler bir konu olmasına karşın bilişim teknolojilerinin hala dünyanın dört bir yanındaki madencilik faaliyetlerine dayandığından pek söz edilmiyor (bunun için Fuchs’un Dijital Emek ve Karl Marx kitabına bakılabilir). Robotların, işyerlerinde insanların yerini alıp almayacağını tartışırken işçilerin robotlaştırıldığını görüyoruz. Başta Facebook olmak üzere bilişim tekelleri mahremiyetin modası geçmiş bir kavram olduğunu savunuyor. Fakat daha kritik bir değişim, insanların mahremiyet bakışında değil araştırmacıların veriye yaklaşımlarında görülüyor. Özellikle 2000’li yıllardan beri araştırmacılar veri sahibinin rızasını almaya gerek duymuyorlar; veriyi rahatlıkla izinsiz kullanabilecekleri bir kaynak olarak görmeye başladılar. Yapay öğrenme ve sınıflandırma uygulamaları, var olan toplumsal eşitsizlikleri yeniden üretiyorlar. Duygulanım tanıma sistemleri ise tüm eksikliklerine rağmen iş mülakatlarında kullanılıyor. YZ sistemleri, kamu hizmetlerinin yeniden yapılandırılmasının bir aracı haline geliyor.

Çevre: Madenler ve Bulut Bilişim

YZ denilince ilk akla gelen algoritmalar, veriler, bulut mimarileri ve gösterişli uygulamalar. Oysa bunların hiçbiri bilgisayarların bileşenlerinde kullanılan mineral ve kaynaklar olmadan inşa edilemez. Hâlâ madenler ve zor koşullarda bu madenlerde çalışanlar var. YZ çağında şaşırtıcı bir gerçek! Veri madenciliği önemli ama Crawford’un (2021) altını çizdiği gibi günümüzde YZ’nin temelini oluşturan bulut bilişim; kayalardan, lityumdan ve ham petrolden yapılır.

Tesla’nın Model S elektrikli otomobilleri pil takımı için 60 kg’dan fazla lityuma ihtiyaç duyar. Bu tip piller, arabalar gibi çok güç isteyen araçlar için uygun olmasa da şimdilik eldeki en iyi seçenektir. Bu nedenle Tesla, dünyanın bir numaralı lityum iyon pil tüketicisidir. Ama küresel hesaplama ve ticaret de aynı gereksinimlere sahip. Şarj edilebilir lityum iyon piller, mobil cihazlar ve dizüstü bilgisayarlar, ev içi dijital yardımcılar ve veri merkezlerinin yedeklenmesi için gereklidir.

Ağ yönlendiricilerinden pillere ve veri merkezlerine kadar YZ ağındaki her nesne, dünyanın içinde oluşması milyarlarca yıl gerektiren ögeler kullanılarak inşa edilir. Daha fazla satış yapmak ve kârı artırmak için milyarlarca yılda oluşan kaynaklar, çok hızlı bir biçimde gerçekleştirilen hafriyat, işleme, karıştırma, eritme vb süreçlerden sonra binlerce kilometre uzağa taşınarak cihazların üretiminde kullanılır. Daha sonra bu cihazlar atılır ve e-atık olarak dünyanın yoksul bölgelerine gönderilir. Amazon Echo ve iPhone gibi cihazlara sadece birkaç yıl ömür biçilir. Bir akıllı telefonun ortalama ömrü 4,7 yıldır.

Söz konusu madenler sonsuz değildir. 2020’de ABD Jeoloji Araştırmaları’nda yayımlanan bir çalışmadan tedarik riski olan 23 maden listelenmiş (https://advances.sciencemag.org/content/6/8/eaay8647). Bu elementler arasında, iPhone’un hoparlörlerinde ve elektrikli araç motorlarında kullanılan disprozyum; askeri cihazlarda ve insansız hava araçlarında kullanılan germanyum; lityum iyon pillerinin performansını artıran kobalt da var. Ayrıca on yedi nadir toprak elementi (lantan, cerium, praseodimyum, neodimyum, prometyum, samaryum, öropyum, gadolinyum, terbiyum, disprosyum, holmiyum, erbium, tulyum, iterbiyum, lutesyum, skandiyum ve itriyum) dizüstü bilgisayar ve akıllı telefonlarda (bunları daha küçük ve hafif yapmak için); renkli ekranlar, kamera lensleri ve sabit disklerde; fiber optik kablolar ve mobil iletişim kulelerinde kullanılıyor.

Madencilik, yıllardır olduğu gibi savaşı, kıtlığı ve ölümü de beraberinde getiriyor. Bu nedenle ABD’de 2010 yılında getirilen bir düzenlemeyle, Demokratik Kongo Cumhuriyeti çevresindeki bölgeden altın, kalay, tungsten ve tantal kullanan şirketlere bu minerallerin nereden geldiğini ve satışın bölgedeki silahlı milisleri finanse edip etmediğini takip etme zorunluluğu getirilmiş. Çünkü insanların modern kölelik koşullarında çalıştırıldığı madencilikten elde edilen kazanç, yıllardır binlerce kişinin ölmesine ve milyonlarca kişinin sürülmesine neden olan savaşı finanse ediyor.

Bilgisayar üreticisi Dell’e göre düzenleme, gerekli metal ve mineral tedarik zincirlerinin karmaşıklığı nedeniyle bilgisayar üreticilerine büyük zorluklar çıkarıyor. Fakat bilişim şirketleri bu düzenlemeyi atlatmanın yolunu da bulmuşlar. Intel ve Apple, düzenlemenin zorunlu kıldığı değerlendirmeleri Kongo dışındaki izabe (madenleri ergitme, sıvı durumuna getirme) tesislerinde ve çoğunlukla da yerel uzmanlara yaptırıyor. Hollanda kökenli bir firma olan Philips de benzer bir yol izleyerek yasa dışı yollardan elde edilen madenleri doğrudan Kongolu satıcılardan almak yerine aracılardan alıyor.

Crawford (2021), Kongo’nun uç bir örnek olduğunu ve çoğu mineralin doğrudan savaş bölgelerinden elde edilmediğini kabul etmekle beraber söz konusu madencilik faaliyetlerinin insan sağlığına etkilerinin ve neden olduğu çevresel yıkımın göz ardı edilemeyeceğini savunuyor. Dijital teknolojiler için kullanılan madenleri çıkarma faaliyetlerinin arkalarında asitle ağartılmış nehirler, toprakları kazınmış araziler ve nesli tükenmiş bitkiler ve hayvanlar bıraktıklarına dikkati çekiyor. Örneğin Çin, dünyadaki toprak minerallerinin %95’ini sağlasa da Çin’in pazar hakimiyeti jeolojik zenginliğinden çok neden olduğu çevresel tahribatın sorumluluğunu almamasına dayanıyor. Çin, neodimyum ve seryum gibi toprak minerallerini kullanabilir hale getirmek için büyük hacimlerde sülfürik ve nitrik asit kullanımını göze alarak çevre felaketlerine neden olabiliyor (https://www.bbc.com/future/article/20150402-the-worst-place-on-earth).

Benzer bir çevre tahribatına dünyanın ikinci metal üreticisi Endonezya’da da rastlıyoruz. PT Timah adlı şirket, Samsung’a doğrudan, Sony, LG, and Foxconn’a aracılar üzerinden kalay satıyor. Kalay madenciliği karlı bir iş olmasına rağmen gerisinde buldozerle yıkılan çiftlikler ve ormanlar, yok olan balık ve mercan resifleri bırakmış. Bir zamanlar palmiyelerle çevrili sahillerinin yok olması turizmi çökertmiş.

Başta bulut bilişim olmak üzere bilişim teknolojileri pazarlanırken en sık gündeme gelen tezlerden biri de kullanılan teknolojilerin çevre dostu olması. Dijital teknolojiler, karbon ayak izleri, fosil yakıtlar ve kirlilik bağlamında pek gündeme gelmiyorlar. Bulut metaforu Vincent Mosco’nun To the cloud: Big data in a turbulent world adlı kitabında ayrıntılı bir biçimde tartıştığı gibi, doğal ve çevreye zarar vermeyen bir şeyi ima ediyor. Teknoloji sektörü sıklıkla çevre politikaları, sürdürülebilirlik girişimleri ve iklim değişikliğine karşı geliştirdiği çözümlerle gündeme gelmeye veya kendilerinin çevre dostu olduğuna dair bir algı yaratmaya çalışıyor. Ancak Amazon Web Services veya Microsoft Azure gibi bulut altyapılarında için harcanan enerji miktarı çok fazla ve sürekli artıyor. Bulut merkezleri, su ve elektriği hesaplama gücüne dönüştürürken büyük miktarda çevresel hasara neden oluyorlar. Su, ona ihtiyacı olanlardan alınarak sunucuları soğutmak için kullanılıyor. Veri merkezlerini daha enerji verimli hale getirmek ve yenilenebilir enerji kullanımını artırmak için büyük çaba gösterilse de dünyanın bilişim teknolojileri altyapısının karbon ayak izi her geçen gün artıyor. Teknoloji sektörünün 2040 yılına kadar küresel sera gazı emisyonlarının yüzde 14’üne erişmesi bekleniyor.

YZ modellerinde hız ve doğruluk talebi artıkça ihtiyaç duyulan enerji miktarı da artıyor. Doğal dil işleme modellerinin karbon ayak izini tahmin etme amaçlı araştırmalar olsa da teknoloji sektörünün yapay zeka modelleri tarafından üretilen enerji tüketimi şirketlerin özenle koruduğu bir sır. Ama şirketler de neden oldukları zararın farkında. Apple ve Google, karbon nötr (bir kişi veya kurumun saldığı sera gazlarını dengelemek ve net olarak sıfır sera gazına ulaşabilmek için, salınan sera gazı miktarına eşdeğer sera gaz salımına engel olacak projeler gerçekleştirmesi, bkz. https://www.bbc.com/turkce/haberler-dunya-54262935) olduğunu iddia ediyor; Microsoft 2030’a kadar karbon negatif olmayı vaat ediyor.

Emek: Robotlaştırılan İnsanlar

Robotlar, işyerlerinde insanların yerini alacak mı? YZ ve otomasyon işsizliği artıracak mı? Crawford (2021) bu sorular üzerinden bir tartışma yürütmek yerine işyerlerindeki değişime odaklanıyor. Robotların insanların yerini almasını değil, insanların robotlaştırılmasını tartışıyor.

Otomasyon ve işsizlik sorunu tartışılırken sıkça belirtilen temennilerden biri YZ’nin insanların yerini almak yerine onu güçlendiren bir rol üstlenmesiydi. İnsan ve YZ işbirliğine dayalı sistemler öneriliyordu. Her geçen gün insan ve YZ sistemleri arasında tam da bu türden ilişkinin kurulduğuna şahit oluyoruz. Fakat Crawford’un (2021) işaret ettiği gibi bu yeni işbirliği çoğunlukla işçilerle adil bir biçimde müzakere edilmeden uygulanıyor. Şirketler yeni bir YZ platformunu hayata geçirmeye çalıştıklarında işçilerin bunun dışında kalma şansları pek olmuyor. İşçilerin yeni teknolojilere ayak uydurmaları, gerekli beceri kazanmaları ve yenilikleri fazla sorgulamadan kabullenmeleri gerekiyor. İşçilerin bedenlerinin, bir robot gibi, hesaplama mantığının ritmine göre çalışması isteniyor.

Geçen ay yayımlanan bir haberde Jeff Bezos’un çalışanların doğası gereği tembel olduğuna inandığı ve onların depolardaki tüm hareketlerini takip ettiği yazıyordu (https://www.sozcu.com.tr/2021/teknoloji/amazonda-bir-skandal-daha-calisanlar-dogasi-geregi-tembel-6489029/). Haber, Amazon’un eski başkan yardımcılarından David Niekerk’in açıklamalarına dayanıyordu. Herhalde bu gibi durumlarda içeriden birinin (eski suç ortağının) yaptığı açıklamalar daha etkili oluyor. Çünkü 2018’in başında çıkan haberlerde Amazon’un çalışanları bir bileklikle izlemeye çalıştığını ve hatta bunun için bir patenti olduğu yayımlanmıştı (https://www.nytimes.com/2018/02/01/technology/amazon-wristband-tracking-privacy.html). Bir zamanlar Ford’un yaptığı öncülüğü şimdi ABD’nin en büyük ikinci özel işvereni Amazon yapıyor. Bir çok şirket Amazon’un yaklaşımını taklit etmeye çalışıyor.

Sözcü’nün haberi “Dünyanın en büyük e-ticaret şirketlerinden biri olan Amazon’da yeni bir skandal daha patlak verdi” diye başlıyordu. Skandal kelimesi “büyük yankı uyandıran, utanç verici ya da küçük düşürücü olay” anlamına geliyor. Bence de habere konu olan uygulama insanlık adına utanç verici. Ama kapitalizm tarihi bunun gibi sayısız uygulama ve uygun koşulları bekleyen arsız fikirlerle dolu.

Örneğin, ilk mekanik bilgisayarın mucidi olarak bilinen Charles Babbage aynı zamanda liberal sosyal teoriyle ilgilenen ve emeğin doğası hakkında yazan biriydi. Adam Smith gibi Babbage da işbölümünü fabrika işlerini düzene sokmanın ve verimliliği artırmanın bir aracı olarak görüyordu. Fabrikaları bir bilgisayar gibi ele alıyordu. Fabrikalar da belirli görevleri yerine getiren ve tümü belirli bir iş grubunu üretmek için koordine edilen birden fazla uzman birim içermekteydi. Babbage, bununla da kalmıyor veri tabloları olarak görselleştirilebilen, adımsayarlar ve tekrarlayan saatler tarafından izlenebilen mükemmel iş akışları içeren bir sistem hayal ediyordu. Hesaplama, gözetim ve emeğin disiplin altına alınması verimlilik ve kaliteyi artıracaktı. Babbage’ın hayali 200 yıl sonra gerçek oluyor!

Crawford’un (2021) altını çizdiği gibi Babbage’ın Adam Smith’ten önemli bir farkı vardı. Smith’e göre bir nesnenin ekonomik değeri, onu üretmek için gereken emeğin maliyetiyle bağlantılıydı. Babbage ise değerin çalışanların emek gücünden değil üretim sürecinin tasarımına yapılan yatırımdan elde edildiğine inanıyordu. Babbage’ın gözünde makineler kusursuzluğu simgelerken işgücü hataların ve sorunların kaynağıydı. Bu nedenle emeğin otomasyonla kontrol altına alınması gerekiyordu. Böylece fabrika sahipleri ve yatırımcılar için finansal getiri en üst düzeye çıkarılabilecekti. Amazon haberinde olduğu gibi bugün de YZ’de verimliliğe, maliyet düşürmeye ve daha yüksek kârlara öncelik veren bir üretim vizyonu hakim durumda. Uygulamaların insani maliyeti veya çalışanların yaşamının nasıl daha iyi getirilebileceği pek fazla sorgulanmıyor.

Babbage ve Smith, verimliliği iş bölümünde, işi araçlar ve insanlar arasında dağıtmada ararken Frederick Winslow Taylor, doğrudan işçilerin hareketlerine odaklanıyor ve işçilerin her hareketlerini elinde saatle en ince ayrıntısına kadar ölçmeye çalışıyordu. Taylor’un ve başta Henry Ford olmak üzere takipçilerinin yönetim anlayışı gözetim, standardizasyon ve vasıfsızlaştırma üzerine kuruluydu. Örneğin her istasyonda harcanan süreyi veya çevrim süresini en aza indirmek Fordist fabrika yönetiminin hedefiydi. Mühendisler, iş görevlerini optimize ve otomatik hale getirebilmek için her zamankinden daha küçük parçalara bölüyor ve denetçiler, ellerinde kronometrelerle fabrikadaki işçileri takip ediyor ve geride kalanları uyarıyorlardı. Şimdi ise ellerinde kronometrelerle koşturan denetçilere gerek yok. Artık çalışanlar, erişim kartlarını okutarak veya elektronik zaman saatlerine bağlı okuyuculara parmak izlerini basarak vardiyalarına giriyorlar. İşçiler, bir işi yapmaları için kalan zamanı gösteren zamanlama cihazlarının önünde çalışıyorlar. Beyaz yakalılar sürekli olarak vücut sıcaklıklarını, meslektaşlarıyla olan fiziksel mesafelerini, atanmış görevleri yerine getirmek yerine web sitelerinde harcadıkları süreyi vb. raporlayan algılayıcılarla veya ajan yazılımlarla donatılmış iş bilgisayarların başında oturuyorlar. Uzaktan çalışma, bir çok çalışan işin daha sıkı ve gözetlenen çalışma koşulları getirecek.

Veri: İnsanların onayını almak ya da almamak

Veri, yapay öğrenme algoritmalarının daha isabetli kestirimlerde bulunabilmesi için gerekli ve birçok uygulama doğrudan veri toplamak için geliştiriliyor. Başta Facebook olmak üzere bilişim şirketleri, artık mahremiyetin anlamsızlaştığını iddia ediyor ve buna inanmamızı istiyorlar. İnsanların mahremiyet hakkındaki düşünceleri elbette zaman içinde değişiyor. Ama WhatsApp’ın politika değişikliğine karşı gelişen tepkiler mahremiyetin insanlar için hâlâ önemli bir değer olduğunu da gösteriyor. Asıl değişim veri toplama pratiklerinde yaşanıyor. Crawford’un (2021) belirttiği gibi 2000’li yılların başından itibaren onaya dayalı veri toplama yaklaşımı terk ediliyor.

Artık veri toplayanlar, internetteki her veriyi alıp kullanabileceklerini varsayıyorlar. Örneğin Microsoft’un MS-Celeb adlı veri kümesi internetten toplanan görüntülerle oluşturuldu ve yüz tanıma teknolojilerinin geliştirilmesinde kullanıldı. Veri kümesinden 100 binden fazla ünlüye ait 10 milyon görüntü yer alıyordu. İşin ironik yanı, veri kümesinin içinde teknoloji sektörünün pervasızlığına yönelttikleri eleştirilerle tanınan Evgeny Morozov, Shoshana Zuboff, Laura Poitras ve Jillian York gibi ünlülerin fotoğrafları da vardı.

Üniversitelerdeki bazı araştırmacılar internetteki içerikle de yetinmediler ve kişilerin onayını almadan veri toplama işini daha ileri götürdüler. Colorado Üniversitesi’nden bir profesör, kampüsün ana geçitlerinden birine kamera yerleştirerek 1700 öğrencinin yüzüne ait görüntüleri kendi yüz tanıma sistemini eğitmek için kullandı. Duke Üniversitesi de benzer bir proje için 2000’den fazla öğrencinin görüntülerini kaydederek internette yayımladı. Daha sonra Çin hükümetinin bu görüntülerinden etnik azınlıkların gözetimi için kullanılan sistemlerini eğitmek için yararlandığı ortaya çıktı. Stanford Üniversitesi’ndeki araştırmacılar, San Fransisco’da, popüler bir kafede oturan insanlara ait 12000’den fazla görüntüyü, yine kişilerden onay almadan yapay öğrenme sistemlerinde kullandılar.

2013’te New York City Taksi ve Limuzin Kurulu, 173 milyon bireysel taksi yolculuğuna ilişkin bir veri kümesi yayımladı. Veri kümesi, yolcu alma ve bırakma zamanlarını ve yerlerini, ücretleri ve bahşiş miktarlarını içeriyordu. Taksilerin plakaları anonimleştirilmiş olması sunulandan daha fazla bilgiye erişilmesini engelleyemedi. Kamuya açık veri kaynaklarından yararlanarak yolcuların kimlikleri ve daha sonra nereye gittikleri hakkında da çıkarımlar yapıldı. Taksilerin durma zamanları ve namaz vakitleri eşleştirilerek dindar müslüman taksiciler tespit edilebildi.

Crawford’un (2021) belirttiği gibi YZ alanındaki şirketlerin ve araştırmacıların, faaliyetlerinin içerdiği etik, politik ve epistemolojik sorunlara ve potansiyel zararlarına rağmen tekrar tekrar insanların verilerini onay almadan kullanmaya çalışması özellikle üzerinde durulması gereken bir konu. Birçok araştırmacı, veriyi elde edilecek ve değerli kılınacak bir şey olarak algılıyordu. Veri; tüketilecek bir kaynak, kontrol edilecek bir akış, kullanılması gereken bir yatırımdı.

Şirketlerin ve araştırmacıların veriye bakışı bana 17. yüzyıldaki çitleme hareketlerini ve John Locke’un bunun hakkında söylediklerini anımsatıyor. Locke’a göre daha iyi hale getirilmemiş toprak israftı ve her kim ki onu ortak mülkiyetten alıp kendi özel mülkiyeti yaparsa insanlığa bir katkı da bulunmuş oluyordu. Bir diğer deyişle, başkalarını topraktan mahrum bırakmak, onlardan bir şey almak değil aksine insanlığa bir şey vermekti. Şimdi veriye karşı da benzer bir yaklaşım var; araştırmacılar veriden bir değer elde ettikleri için eylemlerini haklı görebiliyorlar.

Yukarıdaki üniversite örneklerinde olduğu gibi yapay öğrenme araştırmalarında etik değerlendirme süreçleri, sağlık ve eğitim gibi yaşamın hassas alanlarına dokunmalarına rağmen oldukça zayıftı. Crawford’e (2021) göre bu zayıflığın temel nedenlerinden biri yapay öğrenme ve veri bilimi öncesinde uygulamalı matematik, istatistik ve bilgisayar bilimi alanlarının insan denekler üzerinde araştırma yapan disiplinler olarak görülmemesiydi. Ayrıca büyük veri öncesinde, veri hareketsizdi ve verinin diğer veri kümeleriyle bağlantı kurma ihtimali zayıftı. Bu nedenle veri ve ondan elde edilebilecek bilgilerin insanlara zarar verebileceği pek dikkate alınmıyordu. Fakat YZ, laboratuvarlardan çıkıp suçluların önceden tahmini, sosyal yardım alabilecekleri belirleme gibi alanlarda kullanılmaya başlayınca işler karıştı ve araştırmacılar hazırlıksız (ve belki de habersiz) oldukları etik sorunlarla karşı karşıya kaldılar. Araştırmacılar, faaliyetlerinin etik sorumluluklarını almada isteksiz ve yetersizdi. Yaptıkları işin sonuçları hakkında yeterince düşünmemişlerdi.

Sınıflandırma

Sınıflandırma, YZ’nin temel uygulamalarından biridir. Ancak YZ sistemleri zaman zaman ırk, sınıf, cinsiyet, engellilik veya yaş kategorilerinde ayrımcı sonuçlar üretebiliyor. Bu sorunlar kamuoyu tarafından fark edildiğinde şirketler sistemlerinin daha adil görünmesini sağlamak için algoritmalarını gözden geçiriyor veya verilerini çeşitlendiriyorlar.

YZ sistemleri, gündelik hayatın bir parçası haline geldikçe toplumsal ilişkilerin şekillendirilmesinde daha etkin bir rol oynuyorlar. Fakat görüntü tanıma araçları siyah yüzleri yanlış kategorilere ayırabiliyor, sohbet robotları ırkçı ve kadın düşmanı bir dil edinebiliyor, ses tanıma yazılımı kadın seslerini tanıyamayabiliyor ve sosyal medya platformları kadınlara göre erkeklere daha yüksek ücretli iş ilanları gösterebiliyor. Crawford (2021), sınıflandırmayla ilgili sorunların sürekli teknik yamalarla aşılmaya çalışılmasını ve bazı temel soruların atlanmasını eleştiriyor: Yapay öğrenmede sınıflandırma nasıl çalışır? Sınıflandırmada söz konusu olan nedir? Sınıflandırmalar, sınıflandırılmışlarla hangi yollarla etkileşime girer? Bu sınıflandırmalarının altında yatan ve bu sınıflandırmalar tarafından desteklenen konuşulmayan sosyal ve politik teoriler nelerdir?

Crawford (2021), yapay öğrenme sistemlerini eğitmek için kullanılan veri kümelerinin teknik olarak yanlı (biased) olsun veya olmasın mutlaka bir dünya görüşü içerdiği savunuyor. Veri kümeleri yaratılırken neredeyse sonsuz derecede karmaşık ve çeşitli bir dünya, bireysel veri noktalarının ayrı sınıflandırmalarından oluşan taksonomilere sabitleniyor. Ancak bu süreç (araştırmacılar bunun bilincinde olsun ya da olmasın) doğası gereği politik, kültürel ve sosyal seçimler gerektiriyor.

Sınıflandırmada bilgisayarların varlığı nesnellik görüntüsü vermesine karşın sürecinde temelinde insanlar var. Örneğin, görsel nesne tanıma yazılım araştırmalarında kullanılmak üzere tasarlanmış büyük bir görsel veritabanı olan ImageNet’te çeşitli kategorilerde yüzlerce görsel yer alıyor. Kalem, elma, portakal vb gibi görseller sorun içermeyebilir. Ama sıra insana gelince işler zorlaşıyor. ImageNet, insanlara ait görselleri Google gibi arama motorlarında yaptığı aramalardan elde ediyor. İnternetta paylaşılan özçekimler ve tatil fotoları da önemli bir kaynak. İnsanların rızaları olmadan toplanan bu görseller, Amazon’un Mechanical Turk platformunda çalışan ve parça başı ücret alan işçiler tarafından, WordNet ve Wikipedia’dan sağlanan kategoriler doğrultusunda etiketleniyor. Fakat süreç ne kadar nesnel? Arama motorlarının sonuçları getirmesindeki yanlılıklar, daha fazla para kazanmak için en kısa sürede olabildiğince görseli etiketlemek zorunda olan Mechanical Turk çalışanları, çalışanların yararlandığı WordNet ve Wikipedia kategorileri saf matematiğin nesnelliğini bozuyorlar. Böylece plaj havlusu üzerine uzanmış bir kadının “kleptomanyak”, spor forması giymiş bir gencin “ezik”, Sigourney Weaver adlı artistin “hermafrodit” olarak etiketlendiği etiketler ortaya çıkıyor.

Veri kümelerinin karmaşık sosyal, kültürel, politik ve tarihsel ilişkileri ölçülebilir varlıklara indirgeyerek oluşturduğu şemalar, başta insanların ırk ve cinsiyete göre sınıflandırıldığı sistemlerde olmak üzere, birçok soruna neden olabiliyor. Özellikle ırk ve cinsiyetin otomatik olarak algılanabileceği fikri varsayılan bir gerçek olarak kabul ediliyor ve teknik disiplinler tarafından pek sorgulanmıyor. Örneğin Tennessee Üniversitesi’ndeki bir grup tarafından üretilen UTKFace veri kümesi yirmi binden fazla görseli yaş, cinsiyet ve ırka göre etiketlemiş. UTKFace’i üretenler içeriğin otomatik yüz algılama, yaş tahmini ve yaş ilerlemesi gibi çalışmalarda kullanılabileceğini düşünmüşler. Yaş, 0’dan 116’ya kadar olabiliyor. Cinsiyet ya erkek ya da kadın olmalı. Irklar ise beyaz, siyah, Asyalı, yerli ve diğerleri olarak beş gruba indirgenmiş. Fakat ırk ve cinsiyet, kolayca birkaç kategoriye indirgenemeyecek tartışmalı konular. Örneğin 1950’lerde de Güney Afrika’daki ırkçı yönetim de insanları Avrupalılar, Asyalılar, karışık ırk veya renkli kişiler ve Bantu ırkının “yerlileri” veya safkan bireyleri olarak sınıflandırdı ve bu sınıflandırma doğrultusunda çeşitli politikalar (örneğin, insanların hareketleri sınırlandırılmış, topraklarına el konulmuş) uyguladı. Bu sınıflandırmalar için kullanılan merkezi veritabanı, IBM tarafından tasarlandı ve sürdürüldü, ancak firma genellikle sistemi yeniden düzenlemek ve insanları yeniden sınıflandırmak zorunda kaldı, çünkü pratikte tekil saf ırk kategorileri yoktu.

Crawford’un (2021) Luke Stark’tan aktardığı gibi günümüzde de mevcut ırk kategorilerini somutlaştıran veya çeşitli sınıflandırma mantıklarıyla yenilerini üreten yüz tanıma sistemleri var olan eşitsizlikleri yeniden üretiyor ve derinleştiriyor. Çeşitli yamalarla sistemleri düzeltmeye çalışmak yerine akıldan çıkarılmaması gereken (bir çok YZ sisteminin yapmaya çalıştığının aksine) en önemli şey adaletin asla kodlanabilen veya hesaplanabilen bir şey olmayacağını kabullenmek. Bunun için de istatistiksel hesaplamalar ve matematiksel modellerin ötesine geçilmeli. YZ’nin nerede kullanılabileceğine ve kullanılamayacağına karar verebilmek için YZ sistemlerinin verilerle, çalışanlarla, çevreyle ve kullanımından yaşamları etkilenecek bireylerle nasıl etkileşime girdiğinin tartışılması gerekiyor.

Ama daha da önemlisi Crawford’un (2021) altını çizdiği gibi ırkçılıktan eş cinselliğin patolojikleştirilmesine kadar insanların kategorize edilmesinin en zararlı biçimleri, bilimsel araştırma ve etik eleştirileriyle kolayca yok olmuyor. Kararlı siyasi örgütlenmeler, sürekli protestolar ve kamu kampanyaları olmadan bilim ve araştırma etiği çerçevesinde yürütülen tartışmalar yetersiz kalıyor.

Duygulanım Tanımai

Önceki bölümlerde insanların kişisel verilerini toplamada onaya dayalı yaklaşımların terk edildiğini belirtmiştim. YZ temelli duygulanım tanıma ise bunu bir adım ötesine taşıyor ve insanların vermediği veya vermek istemediği bilgilere erişmeye çalışıyor. Yüz tanıma belirli bir bireyi tanımlamaya çalışırken, duygulanım araştırmaları herhangi bir yüzdeki duyguları algılamayı ve sınıflandırmayı amaçlıyor. Instgram’daki özçekimler, Flicker’daki fotoğraflar, Tiktok videoları vs sayesinde şirketlerin elinde bir hayli geniş veri kümeleri var.

Duygulanım tanıma sistemleri her zaman iddia ettikleri kadar başarılı olmasalar da kullanılıyorlar. Londra’da Human adlı bir startup, işe başvuran adayların video görüşmelerini analiz ederken duygulanım tanımadan yararlanıyor ve şirket, adayların duygusal özellikleri ve kişilik özellikleri hakkında çıkarımlarda bulunuyor. Kişilerin işe karşı tutkuları, dürüstlükleri vb derecelendiriliyor. Bir diğer YZ şirketi HireVue da Goldman Sachs, Intel ve Unilever gibi şirketler için yapay öğrenme yardımıyla bir adayın işe uygunluğunu değerlendiriyor. Bu değerlendirmeyi yaparken, yüzdeki mikro ifadeler, ses tonu gibi parametrelerden yararlanıyor ve şirketlerin en iyi çalışanlarının özellikleriyle karşılaştırmalar yapıyor.

Duygulanım tanıma üzerine çalışan en iddialı şirketlerden biri olan Affectiva, 87 ülkeden on milyondan fazla insan ifadesi içeren büyük bir veritabanına sahip. Şirket, derin öğrenme teknikleri ile dikkati dağılmış sürücüleri tespit etmeden tüketicilerin reklamlara tepkisini ölçmeye kadar çeşitli projeler yürütüyor. Bir çok şirket, Affectiva tarafından geliştirilen teknolojiyi işe başvuran adayları değerlendiren ve öğrencilerin derse katılımını analiz eden uygulamalar geliştirmek için lisanslıyor.

Apple, Amazon ve Microsoft da duygulanım tanıma üzerine çalışıyorlar. Apple, 2016’da yüz ifadelerinden duyguları tespit etmeye çalışan Emotient’i satın aldı. Microsoft Face API’si ile öfke, küçümseme, iğrenme, korku, mutluluk, tarafsızlık, üzüntü ve şaşkınlık gibi duyguları tespit edebildiğini iddia ediyor. Amazon’un Rekognition adlı aracı da benzer iddialara sahip.

Duygulanım tanıma teknolojilerinin iddialarında ne kadar başarılı oldukları bir yana şimdiden politik amaçlar için kullanıldıklarını görüyoruz. Örneğin muhafazakar bir blog, ABD Kongre üyesi Ilhan Abdullahi Omar’ı Rekognition, XRVision Sentinel AI ve IBM Watson ile analiz ederek Omar’ın patolojik bir yalancı ve bir ulusal güvenlik tehdidi olduğunu iddia edebiliyor. Fakat bu yazılımlara ne kadar güvenebiliriz? Crawford’un (2021) Maryland Üniversitesi’ndeki bir çalışmadan aktardığı gibi bazı yüz tanıma yazılımları, siyah yüzleri beyaz yüzlere göre daha olumsuz duygulara sahip olarak yorumluyor. Çünkü duygularımız karmaşık; ailelerimiz, arkadaşlarımız, kültürlerimiz geçmişlerimiz gibi çeşitli bağlamlarla ilişkili olarak gelişiyor ve değişiyor. Şirketlerin yüz hareketlerini analiz ederek insanların iç durumlarını basitçe okuyabileceklerinde ısrarcı olmaları ve bunun yaygınlaşması oldukça riskli. Bir aday, sadece yüz ifadesi işverenin beklentisini karşılamadığı için işe kabul edilmeyebilir; öğrenci, yüzündeki ifadeden derse ilgisiz olduğu çıkarılarak kötü not alabilir; marketteki bir müşteri, yüz ifadesi nedeniyle hırsızlıkla suçlanabilir.

Fazlasıyla karmaşık olan şeyler, hesaplanabilmeleri için aşırı basitleştirilip piyasaya hazır hale getirilmeye çalışıldıkça bu tip sorunlar kaçınılmaz oluyor.

Şirketler Kamu Kurumlarının Yerine Geçiyor Ama…

Snowden’ın ifşaları YZ dünyasının sadece şirketlerin yaptıklarıyla sınırlı olmadığını aynı zamanda gizlilikle yürütülen paralel bir YZ sektörü olduğunu da gösterdi. Crawford (2021), Snowden’ın ifşalarının 2013 yılında yayımlanmış olmasına karşın günümüz YZ pazarlama broşürlerini andırdığını yazıyor.

En başından beri ABD’de ordunun öncelikleri olan komuta ve kontrol, yapay zekanın şekillenmesinde etkili oldu. Askeri araştırmaların çıktıları bilgisayarla görme, otomatik çeviri ve otonom araçlar gibi alanların önünü açtı. Daha sonra, yapay öğrenme ve büyük veri ile beraber gözetim faaliyetleri de arttı. YZ teknolojilerinin askeri amaçlar için kullanılması, şirketlerin bazen açıkça bazen de gizli biçimde devletlerle işbirliği yapması YZ’den önceki teknolojilerde de sık rastlanan durumdu. Fakat 2018 yılında Google çalışanlarının Google’ın Project Maven’deki rolünün farkına varmasından sonraki gelişmelerin önemli olduğunu düşünüyorum. 3100’den fazla Google çalışanı yazdıkları protesto mektubunda savaş işinde olmamaları gerektiğini belirttiler ve ABD Savunma Bakanlığı ile olan işbirliğinin sonlandırılmasını talep ettiler. Giderek artan baskılar nedeniyle Google resmi olarak projeden çekildi. Daha sonra ihaleyi Amazon’u alt eden Microsoft aldı. Kısa bir süre sonra YZ ilkelerini yayımlayan Google, “temel amacı veya uygulaması insanların yaralanmasına neden olan veya doğrudan bu yaralanmayı kolaylaştıran silahlar veya diğer teknolojiler” ve “uluslararası kabul görmüş normları ihlal eden gözetim için bilgi toplayan veya kullanan teknolojiler” üzerine çalışmayacağını duyurdu. Google’ın açıklaması önemliydi ama şirketlerin bu tip metinlerinde sıkça rastlandığı gibi etik kısıtlamanın uygulanabilirliği ve parametreleri hakkında belirsizlikler vardı.

Fakat devletlerin YZ ile ilişkisini tartışırken sadece askeri kullanımlarla sınırlı kalmamak gerekiyor. Çünkü bir zamanlar ordu ve istihbarat servislerinin kullandığı teknolojiler şimdi belediye yönetimleri, hükümet ve kolluk kuvvetleri tarafından kullanılıyor. Ticari gözetim sektörü, gözetim araçları ve platformlarını kolluk kuvvetlerine ve kamu kurumlarına pazarlıyor. Bir zamanlar savaş bölgeleri ve casusluk için ayrılan teknolojiler, artık yerel yönetim düzeyinde kullanılıyorlar. Devletin geleneksel görev ve sorumlulukları, teknoloji şirketlerinin platformlarına devrediliyor.

Örneğin, daha önce Gateway adlı bir bilgisayar şirketinin yönetim kurulu başkanlığını yapmış olan Michigan valisi Rick Snyder, yoksulların aldığı sosyal yardımları zayıflatmak amacıyla algoritmik olarak yönlendirilen iki kemer sıkma programı uygulamaya çalışmış. İlki oldukça basitmiş. Kovuşturmadan, hapis cezasından veya hapisten kaçanların gıda yardımlarını keserek tasarruf etmek istemişler. Ama 2012 ve 2015 arasında uygulanan sistem, on dokuz binden fazla Michigan sakinini yanlış bir şekilde sınıflandırılmış ve gıda yardımından mahrum kalmış. İkincisinde ise işsizlik sigortasındaki dolandırıcılıkları engellemeyi hedeflemişler. Tasarlanan sistem, kişilerin kayıtlarındaki herhangi bir aykırılık veya tutarsızlığı yasadışı davranışın kanıtı olarak gördüğünden 40 binden fazla Michigan sakini hatalı bir şekilde dolandırıcılıkla suçlanmış. İnsanların vergi iadelerine el konulmuş, maaşlarına haciz getirilmiş ve borçlu oldukları miktarın dört katı para cezası almışlar. Her iki sistem de mali açıdan tam bir fiyasko olmuş. Michigan, tasarruf ettiğinden çok daha fazlasını harcamak zorunda kalmış. Mağdurlar, sistemler nedeniyle yönetim hakkında dava açmışlar. Ama binlerce kişi mağdur olduktan ve bazıları iflas ettikten sonra…

Kamu kurumları, kaynakları daha iyi dağıtacağını veya suçluları daha doğru bir şekilde tespit edeceğini iddia eden yazılımları satın almaya devam ediyorlar. YZ sistemleri, devletin görev ve sorumluluklarını yeniden tanımlıyor. Kurumlar, kontrol edemedikleri ve hatta tam olarak anlayamadıkları sistemler için teknoloji şirketleriyle anlaşmalar yapıyor. Teknoloji şirketleri, yerine getirmeye uygun olmadıkları ve gelecekte bir noktada sorumlu tutulabilecekleri devlet ve devlet dışı işlevleri üstleniyorlar. Fakat hâlâ kullanılan sistemlerin neden olabileceği zararların sorumluluğu kimde olacağı belirsiz. Kamu kurumları, son zamanlarda “anlamadığımız bir şeyden sorumlu olamayız.” diyerek sorumluluk almaktan kaçınıyor. Mağdur olanlar ise hep en savunmasız olanlar: Yoksullar.

***

Son zamanlarda en sık gündeme gelen konulardan bir YZ etiği. 2019’da sadece Avrupa’da bunun için hazırlanmış 128 çerçeve vardı. Söz konusu etik ilkeler değerli çalışmalar. Fakat YZ hakkında daha geniş bir uzlaşma olarak sunulan bu çerçeveler çoğunlukla gelişmiş ülkeler tarafından hazırlanıyor ve en mağdur kesimlerin sesine yer vermiyor. Ayrıca uygulamanın nasıl olması gerektiği tartışılmadığı gibi zorlayıcılıkları da yok. YZ sistemlerinin inşasında kullanılan araçlardan çok sonuçlar tartışılıyor.

Şirket kurucularını yüceltmek ve gelecekçilerin (futurist) masallarını dinlemek yerine artık YZ sistemlerinden etkilenen kesimlerin çıkarlarını konuşmalı; sistemlerin kime hizmet ettiğini, hangi ekonomi politik çerçevede geliştirildiklerini ve dünyaya etkilerinin ne olduğunu sorgulamalıyız. Bunun için Crawford’un (2021) yazdığı gibi “YZ etiği denildiğinde madencilerden çevrimiçi platform çalışanlarına kadar işçilerin çalışma koşullarını sorgulamalıyız. Optimizasyon kelimesini duyduğumuzda, bunların göçmenlere yönelik insanlık dışı muamelenin araçları olup olmadığını sormalıyız. Büyük ölçekli otomasyon için alkışlar koptuğunda, gezegenin zaten aşırı stres altında olduğu bir zamanda ortaya çıkan karbon ayak izini hatırlamalıyız.”

Kaynaklar

Brynjolfsson E. ve Petropoulos, G. (2021),The coming productivity boom, MIT Technology Review, https://www.technologyreview.com/2021/06/10/1026008/the-coming-productivity-boom

Crawford, K. (2021). The Atlas of AI. Yale University Press.

iDuygulanım tanıma ve yapılan çalışmalar hakkında daha ayrıntılı bilgi almak isteyenler için Richard Yonck’un, Makinenin Kalbi adlı kitabını öneririm.

İlk Yorumu Siz Yapın

Bir cevap yazın

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir