Yapay Zekâ ve Alternatif Politikalar

İlk küresel “Yapay Zekâ Güvenliği Zirvesi”, 1-2 Kasım tarihlerinde Londra’da gerçekleşti. Zirvenin düzenlendiği yer, Bletchley Park, bilgisayar bilimi açısından tarihi bir öneme sahipti. Bletchley Park, II. Dünya Savaşı boyunca Nazi Almanyası’nın Enigma ve Lorenz şifrelerinin çözümünde bir üs olarak kullanılmıştı. Ülkemizin de katıldığı bu ilk küresel YZ (Yapay Zekâ) zirvesinde 28 ülkeden temsilci vardı.

Zirvenin odaklandığı riskler iki kategoriye ayrılmıştı. Birinci kategorideki risklerde kötü bir aktörün YZ ile yapabilecekleri üzerinde duruluyordu. Hükümetler, suç işlemek için YZ’yi kullanan aktörlerle baş edebilmek istiyor. İkinci kategorideki riskler ise insanlara yardımcı olması için geliştirilen YZ sistemlerinin insanların aleyhine dönmesiyle ilgili. Ayrıca zirve belgelerinde dar ve sınır YZ (Frontier AI) arasında bir ayrım yapılmış. Dar YZ’ler belirli bir görevi gerçekleştirmek için tasarlanıyorlar. Tek bir görevi gerçekleştirmek üzere tasarlandıkları için başka bir alana otomatik olarak aktarılamıyorlar. Sınır YZ ise daha yeni bir terim. Yetenekler veya görev çeşitliliği açısından mevcut en yeni YZ modelleriyle eşleşen veya onlardan daha iyi performans gösteren YZ modellerini tanımlıyor. Bir yandan çok fazla olanak sunarken diğer yandan beraberinde yeni riskler getiriyor. En son teknoloji LLM (Large language models – Büyük Dil Modelleri) gibi çok çeşitli görevleri gerçekleştirebilen YZ teknolojilerini bu kapsamda değerlendirebiliriz.

Hükümetlerin belirlediği beş temel zirve hedefi özellikle sınır YZ üzerineydi:

• Sınır YZ’nin oluşturduğu riskler ve eylem ihtiyacı konusunda ortak bir anlayış.
• Ulusal ve uluslararası çerçevelerin en iyi şekilde nasıl destekleneceği de dahil olmak üzere sınır YZ güvenliği konusunda uluslararası işbirliğine yönelik ileri bir süreç.
• Sınır YZ güvenliğini artırmak için tek tek kuruluşların alması gereken uygun önlemler.
• Model yeteneklerinin değerlendirilmesi ve yönetişimini desteklemek için yeni standartların geliştirilmesi de dahil olmak üzere YZ güvenlik araştırmalarında potansiyel işbirliği alanları.
• YZ’nin güvenli bir şekilde geliştirilmesinin ve küresel iyilik için kullanılmasının nasıl sağlanacağının gösterilmesi

Zirvenin “bu risklerin ortaya çıkardığı yeni zorlukların üstesinden gelmek, modellerin devlet dışı aktörler tarafından kötüye kullanılmasıyla mücadele etmek ve en iyi uygulamaları teşvik etmek” için ulusların nasıl birlikte çalışabileceğine dair uluslararası bir konuşma alanı sağlayacağı öngörülüyordu. Ancak yanlış bilgilendirmeler, ön yargı, ayrımcılık ve YZ’nin insanlar tarafından yapılan işleri devralması gibi daha geniş toplumsal riskler zirve kapsamı dışında bırakılmıştı. Çünkü bu riskler halihazırda hem ulusal hem de uluslararası alanda ele alındığından zirveyi tekrar bu konularla meşgul etmek istenmemişti (https://www.gov.uk/government/publications/ai-safety-summit-introduction/ai-safety-summit-introduction-html).

Zirve sonunda ülkeler, Bletchley Deklarasyonu olarak bilinen ve YZ’nin zorluklarını ve risklerini yönetmek için uluslararası işbirliği çağrısında bulunan bir anlaşma yayımladılar. Zirve öncesindeki hedeflerle uyumlu olarak özellikle sınır YZ’nin düzenlenmesi üzerinde duruldu (https://www.gov.uk/government/publications/ai-safety-summit-2023-the-bletchley-declaration/the-bletchley-declaration-by-countries-attending-the-ai-safety-summit-1-2-november-2023). Zirvede, YZ’nin terörizm, suç faaliyetleri ve savaş amacıyla potansiyel kullanımının yanı sıra bir bütün olarak insanlığa yönelik varoluşsal riskleri ele alındı. Bu gelişmelere ek olarak ABD Başkanı Joe Biden, YZ geliştiricilerinin güvenlik sonuçlarını ABD hükümetiyle paylaşmasını gerektiren bir idari emir imzaladı. Ayrıca ABD hükümeti, Ulusal Standartlar ve Teknoloji Enstitüsünün bir parçası olarak bir Amerikan Yapay Zeka Güvenliği Enstitüsünün kurulduğunu duyurdu.

Sonraki YZ Güvenliği Zirvelerinin 2024 ortalarında Güney Kore’de, 2024 sonlarında ise Fransa’da düzenlenmesi planlanıyor. YZ zirvesi, FLI’nın (Yaşamın Geleceği Enstitüsü – Future of Life Institute) 22 Mart’ta yayımladığı “Dev Yapay Zekâ Deneylerini Duraklatın” başlıklı açık mektubunun ve 30 Mayıs’ta da CAIS’in (Center for AI Safety – Yapay Zekâ Güvenliği Merkezi) web sitesinde yayımlanan YZ kaynaklı yok olma riski hakkındaki bildirinin bir devamı niteliğindeydi. Daha çok hükümetlerin adı geçse de zirve, büyük teknoloji şirketlerinin etkili ve belirleyici olduğu koşullarda gerçekleşti.

Ancak bu süreçte beklenmedik bir gelişme yaşandı. Birleşik Krallık’ta ve uluslararası düzeyde faaliyet gösteren çok sayıda insan hakları kuruluşu, sendika, akademisyen ve uzman, Birleşik Krallık Başbakanı Rishi Sunak’a hitaben bir açık mektup yayımladı. İmzacılar arasında dünya çapında on milyonlarca işçiyi temsil eden TUC (Trades Union Congress), AFL-CIO (The American Federation of Labor and Congress of Industrial Organizations), Avrupa Sendikalar Konfederasyonu, Uluslararası Sendikalar Konfederasyonu gibi büyük ve uluslararası sendika konfederasyonları; Uluslararası Af Örgütü, Liberty, Article 19, Privacy International, Access Now gibi yerel (Birleşik Krallık’taki) ve uluslararası insan hakları kuruluşları; Connected by Data, Open Rights Group, 5 Rights, Consumers International gibi yerel ve uluslararası sivil toplum kuruluşları; Mozilla ve AI Now gibi teknoloji toplulukları; Alan Turing Institute ve British Computer Society gibi kuruluşlardan uzmanlar vardı.

Zirve, birbiriyle kıyasıya rekabet eden ABD ve Çin’i bir araya getirmekle övünse de yaşamları YZ’den en çok etkilenen toplulukları ve işçileri marjinalleştiriyordu. Yayımlanan açık mektupta zirvenin, büyük teknoloji şirketleri tarafından inşa edilen sınır YZ sistemlerinin uzak varoluşsal riskleri hakkındaki spekülasyonlara aşırı derecede odaklanması eleştiriliyordu. Büyük teknoloji şirketlerinin yönlendirdiği, kapalı kapılar ardından gerçekleşen zirve güncel ve gerçek sorunları göz ardı ediyordu. Böylece halihazırdaki YZ sistemlerinden en çok etkilenenler ve gelecekteki sistemlerden en çok etkilenecek olanlar “biz de varız” diyor ve söz hakkı istiyordu.

Haklıydılar. Çünkü algoritmalar (!) tarafından işlerinden kovuluyorlar. Kredi başvuruları kimlik veya posta koduna dayalı profillemelere göre değerlendiriliyor. Biyometrik gözetime veya itibarsızlaştırıcı tahmine dayalı polislik uygulamalarına maruz kalıyorlar. Bir avuç büyük teknoloji şirketi daha fazla güç ve etki elde ettikçe küçük işletmeler ve sanatçılar sistemden dışlanıyor ve yenilikçilik boğuluyor. YZ’yi gerçekten güvenli hale getirmek için bu ve bunun gibi bireysel ve toplumsal açıdan büyük önem taşıyan pek çok sorunun üstesinden gelinmesi gerekiyor. Bunu başarıyla yapmak, gelecekteki riskleri yönetmenin de temellerini atacak. Geniş bir uzmanlık yelpazesi ve YZ zararlarına en çok maruz kalan topluluklar, YZ’nin risklerinin tartışıldığı bir masada yer almalı ve eşit söz hakkına sahip olmalıydılar. Bu seslerin dahil edilmesi, kamuoyunun ve politika yapıcıların resmin tamamını görebilmesini sağlayacaktı (https://ai-summit-open-letter.info/).

Açık mektup aynı zamanda BigTech’in (Büyük Teknoloji Şirketleri) yazıp oynadığı YZ oyununa son verme çağrısıydı. Teknoloji firmaları; işçilerin öncülüğündeki örgütlenmeler, medya araştırmaları ve aktivist grupları teknoloji kaynaklı zararın birçok boyutuna ışık tutana kadar geniş çapta, faydalı ve yenilikçi çalışmalarla ilişkilendiriliyordu. Son yıllarda bu değişiyor. Açık mektubun imzacılarından olan YZ Şimdi (AI Now) Enstitüsü de artık sorunları belirleme ve tanımlamadan onları ortadan kaldırmak için harekete geçme zamanının geldiğini savunuyor. Bu çerçevede hazırladıkları 2023 raporu da YZ hakkındaki basmakalıp önerileri tekrarlamıyor ve somut politika önerileri sunuyor. YZ Şimdi, özellikle teknoloji sektöründeki güç yoğunlaşması üzerinde duruyor. YZ Şimdi’ye göre YZ hakkındaki hiçbir şey kaçınılmaz değil (https://ainowinstitute.org/2023-landscape)!

Big Tech (Büyük Teknoloji Şirketleri)

Big Tech terimi, 2013’ten beri ABD’li mega teknoloji şirketlerini tanımlamak için kullanılan bir kısaltma. Bu terim ile çoğunlukla GAFAM (Google, Apple, Facebook, Amazon, Microsoft) kastediliyor. Ama terimin kesin bir bileşimi yok. Örneğin kısaltma zaman zaman Uber , Twitter vb teknoloji şirketlerini de kapsayabiliyor.

Terim, söz konusu teknoloji şirketlerinin ağ etkileri, sahip oldukları veriler ve altyapısal avantajlarıyla faaliyet gösterdikleri benzeriz ölçeğe işaret ediyor. Büyük Teknoloji şirketleri finansal güçlerini kullanarak sosyal medyadan sağlık hizmetlerine, eğitimden medya sektörlerine kadar çeşitli şirketleri satın alıyorlar. Genellikle stratejik olan bu satın almalarla güçlerini pekiştiriyorlar. Ayrıca finansal güçleriyle lobicilik ve benzeri sermaye dışı stratejiler yoluyla YZ’yi düzenleme tehdidine karşı konumlarını korumaya ve güçlerini artırmaya çalışıyorlar.

Will Oremus, Silikon Vadisi Nasıl Big Tech Oldu? başlıklı yazısında iş dünyasında küçük “b” harfiyle büyük olmanın harika bir şey olduğunu yazıyor. Ancak “Büyük X” etiketinin tarihinin gösterdiği gibi, insanlar büyük “B” harfini kullandıklarında (Big Tobacco, Big Pharma, Big Oil) bunu endüstriye duydukları saygıdan dolayı yapmazlar. Bunu nefret ve korkudan dolayı ve savaşa hazırlanmak için yaparlar (https://slate.com/technology/2017/11/how-silicon-valley-became-big-tech.html).

Geçtiğimiz birkaç on yıl içinde bir avuç şirket, YZ’yi kritik bir sosyal altyapı olarak geliştirip yaygınlaştırırken ulus devletlere rakip olacak güç ve kaynaklar elde ettiler. YZ, ne tür bir işe gireceğimiz ve ne kadar maaş alacağımız, iyi bir sağlık hizmeti ve iyi bir eğitime erişip erişemeyeceğimiz gibi son derece etkili kararlardan, market rafındaki ürünlerin maliyeti ve eve giderken kullandığımız rotanın bizi trafiğe sokup sokmayacağı gibi son derece sıradan kararlara kadar hayatımızın gidişatını şekillendiren kararlar almak için kullanılıyor. Ancak, teknoloji her zaman iddia edildiği gibi çalışmıyor ve yüksek hata oranları ya da adil olmayan ve ayrımcı sonuçlar üretiyor. Bunun yanında sektörün şeffaflıktan uzak oluşu YZ’nin ne zaman kullanıldığından veya nasıl çalıştığından haberdar olamayacağımız anlamına geliyor. Bir diğer deyişle, bu teknolojilerin hayatlarımız üzerindeki etkisi hakkında ya çok az söz sahibiyiz ya da hiçbir söz hakkımız yok.

Büyük teknoloji şirketlerinin sahip olduğu ve kontrol ettiği kaynaklar devletleri kıskandıracak boyutta ve özellikle üç temel avantajları üzerinde durmak gerekiyor.

Birincisi, veriden elde ettikleri avantajlar. Gözetim yoluyla en geniş ve en derin davranışsal verilere erişebilen firmalar, doğal olarak tüketicilere yönelik YZ ürünlerinin yaratılmasında daha avantajlılar. Dolayısıyla son zamanlarda veri avantajını genişletmeye odaklanan teknoloji şirketleri arasında stratejik birleşmeler gerçekleşiyor. Daha doğrusu Büyük Teknoloji şirketleri küçükleri yutuyor. Böylece bir avuç şirket, sağlıktan tüketim mallarına, eğitimden krediye kadar bir dizi sektörde temel altyapı olarak yer almalarını sağlayan muazzam bir ekonomik güç biriktiriyorlar.

İkincisi, hesaplama gücüdür. Günümüzdeki YZ temelde veri odaklı bir girişimdir ve bu modelleri eğitmek, ayarlamak ve konuşlandırmak için büyük bir hesaplama gücü kullanılır. Bu oldukça yüksel maliyetli bir iş. Çipler ve veri merkezlerinin konumu gibi maddi bağımlılıkların yanında kalifiye bir iş gücüne gerek var. Bulut ve hesaplama kaynakları YZ sistemlerinin temelini oluşturuyor. Bu nedenle, az sayıda şirket aslında kendi altyapısını işletebiliyor. Her ne kadar “YZ startup’ları”nın sayısı fazla olsa da bunlar Big Tech’in sunucu altyapısına bağımlılar ve bu bağımlılık ilişkisinin sınırları içinde hareket edebiliyorlar. Nitekim Microsoft kısa bir süre önce GPT-4’e potansiyel rakipler geliştiren müşterilerini cezalandırmaya başladı ve Bing arama verilerine erişimlerini kısıtlamakla tehdit etti.

Üçüncüsü, jeopolitik avantajdır. YZ sistemleri (ve onları üreten şirketler) sadece ticari ürünler olarak değil, aynı zamanda ulusal politikalarla güçlendirilmesi ve asla kısıtlanmaması gereken stratejik varlıklar olarak yeniden şekillendiriliyorlar. ABD-Çin YZ yarışı etrafındaki retorik, YZ şirketlerinin jeopolitik önemini artırdı. Büyük Teknoloji şirketlerinin süregelen hakimiyetinin ABD’nin ekonomik gücüyle eş anlamlı hale getirilmesi şirketlere aktarılan kaynakların sürekliliğini sağlıyor.

YZ Şimdi’nin 2023 raporunda Big Tech’in bu avantajları göz önünde bulundurularak dört maddeden oluşan bir strateji öneriliyor.

Büyük Teknoloji Şirketlerine Karşı Dört Strateji

1. Zararlar ortaya çıktıktan sonra bunları sürekli olarak araştırmak, tespit etmek ve çözüm bulmak için kamuya ve düzenleyicilere yüklenmek yerine, zarar vermediklerini kanıtlama yükünün şirketlere verilmesi.

Araştırmacı gazetecilik ve bağımsız araştırmalar, teknolojinin hesap verebilirliği açısından kritik öneme sahip. Şeffaf olmayan sistemlerin test edilmesiyle teknoloji destekli zararlara ilişkin kanıtların ortaya konması çok önemli riskleri ve sorunları görünür hale getirdi. Fakat üçüncü tarafların değerlendirmesine dayanan denetimler ve benzeri hesap verebilirlik çerçeveleri, zararların belirlenmesi ve ele alınması sorumluluğunu şirketin dışında konumlandırarak doğrudan teknoloji şirketlerinin avantajına bir ortam yaratıyorlar.

Teknoloji sektörü, ekonomik süreçlerde, iletişimde ve iş gücü piyasasında yaygın ve öngörülemez etkilere sahip. Fakat halihazırdaki işleyişte araştırmacı gazetecilik ve bağımsız araştırmalar yoluyla sistemlerin açıklarının ve zararların bulunması, daha sonra şirketin ‘pardon’ demesi kısır bir döngüye yol açıyor. Büyük Teknoloji şirketleri yıkarak ilerliyor. Yıkımların önüne geçebilmek için gıda ve ilaç piyasasının düzenlenmesinde olduğu gibi şirketlerin kendileri yasaya uyduklarını göstermeliler. Bunun için her durumda yasaklanması gereken kullanım türlerini ve uygulama alanlarını belirleyen kesin ayrımlara ve yasak bölgeler gibi yapısal sınırlamalara ihtiyacımız var. Örneğin bir çok şehirde yüz tanımaya yasaklar getirildi. Yüz tanıma gibi duygu tanıma teknolojilerinin de hiçbir zaman ama özellikle de iş yerlerinde kullanılmaması gerekiyor. Çünkü bilimselliğinin tartışmalı olması bir yana yüz tanıma teknolojisine eşlik eden ayrımcı etkilerle ilgili açık endişeler var. İşverenlerin kârlarını en üst düzeye çıkarmak için çalışanlarının içsel durumları hakkında çıkarımlarda bulunmaya çalışması ne kadar etik? Yüz tanıma ve diğer gözetleme sistemlerinin arabalar ve sanal gerçeklik gibi alanlara yavaş yavaş sızması kesin ayrımların yokluğundan kaynaklanıyor.

Raporda belirtildiği gibi sahip oldukları veri, büyük teknoloji şirketleri için önemli bir avantaj sağlıyor. Büyük Teknoloji şirketleri de doymak bilmez bir açlıkla daha çok veriye ulaşmaya çalışıyorlar. Pazar güçlerini büyütebilmek için toplayabildikleri verileri birleştirmeye ve yeni bilgiler elde etmeye çalışıyorlar. Bunu kendi başlarına yapamadıklarında diğer şirketleri satın almaya çalışıyorlar. Çoğu zaman da bunda başarılı oluyorlar:

Ancak rekabet kuruluşları, verilerin dijital pazarlarda kritik bir rol oynadığı ve düzenleyicilerin veri uygulamalarının bilgi asimetrisini ve pazar gücünü nasıl şekillendirdiğiyle ilgilenmeleri gerektiği konusunda büyük ölçüde hemfikirler. Hem ABD’deki hem de AB’deki düzenleyiciler, (özellikle rekabete zarar vermeden önce) şirket birleşmelerine daha erken aşamalarda müdahale etmelerine olanak sağlayacak araçlar geliştirmeye çalışıyorlar. Şirketler arası birleşmeler artık bu kadar kolay gerçekleşmeyebilir.

2. Politika alanları arasındaki duvarların yıkılması. Böylece bir politika gündeminin ilerlemesinin diğerlerini etkilediği yerleri ele almak daha kolay olacaktır. Firmalar politika alanları arasındaki izolasyonu kendi çıkarları için kullanıyorlar.

Büyük Teknoloji şirketlerinin gücünün ana kaynaklarından biri, ekonominin geniş alanlarına yayılan dijital ekosistemlerle pazarlara erişebilmesinin yaygın olmasıdır. Bu nedenle bütünlüklü politikalar geliştirilmeli, bir politika alanında geliştirilecek önlemlerin diğer politika alanlarına nasıl yansıyacağına dikkat edilmelidir.

Mahremiyete yönelik yasal ve politik yaklaşımlarla rekabet politikaları arasındaki kopukluk, şirketlerin öz düzenleyici önlemler ortaya koymasına olanak tanıdı. Böylece şirketlerin tüketiciler hakkında doğrudan bilgi toplama becerisi genişledi ve derinleşti. Tabii bu süreçte hem mahremiyet hem de rekabet zarar gördü.

Bu kopukluklar aynı zamanda bir politika alanındaki ilerlemenin diğerine aktarılmasını da engelleyebiliyor. YZ tabanlı içerik filtreleme araçlarının yanılabilirliği hakkındaki çok sayıda örneğe rağmen YZ araçlarının yasa dışı içerikleri etkili bir şekilde tarayabileceği hakkındaki düşünceler farklı politika bağlamlarında yeniden ortaya çıkabiliyor.

Toplanacak veriyi minimum düzeyde tutan ve veri toplamayı sınırlayan diğer yaklaşımlar yalnızca tüketici mahremiyetini korumayacak, aynı zamanda firmaların güçlerinin önemli bir kaynağı olan veri avantajını da azaltacaktır. Böylece yurttaşların aleyhine olan bazı YZ sistemlerini inşa etmek olanaksızlaşacaktır.

Duvarların yıkılması, YZ hakkında çeşitli stratejik koalisyonların oluşumu için de alan sağlayacaktır.

3. Politika yaklaşımlarının endüstri tarafından ne zaman benimsendiğini ve içinin boşaltıldığını belirlenmesi ve stratejilerin buna göre değiştirilmesi.

Büyük Teknoloji şirketleri, finansal güçleri ve derin bağlantılarıyla tehdit olarak algıladıkları her şeye yanıt vermede çevik ve yaratıcı davranıyorlar. Örneğin AB’de, GDPR’nin hak temelli yaklaşımından AI Act’ın risk temelli yaklaşımına geçilmesi endüstri öncülüğündeki gönüllü çerçeveler ve teknik standartlar lehine bir ortam yaratacak.

Hassas sosyal alanlarda yüz tanıma teknolojilerine karşı muhalefetin artması sonucu teknoloji şirketleri, geri çekilirmiş gibi yaptılar. Düzenlemeye direnmekten vazgeçerek onu desteklediklerini iddia etmeye yöneldiler. Böylece daha cesur reformların altını oyma fırsatı yakaladılar. Örneğin, Washington eyaletinin çok eleştirilen yüz tanıma yasası Microsoft’un desteğiyle geçti. Tasarının denetimler ve paydaş katılımı gibi artıları vardı. Ama pek çok savunucunun talep ettiği polis kullanımını yasaklamaktan çok daha geri bir duruştu.

Çok sayıda araştırma, YZ sistemlerinin ayrımcı etkilerini ve bu sorunların yalnızca kod ve veri düzeyinde ele alınamayacağını gösteriyor. YZ endüstrisi, ön yargı ve ayrımcılığın bir sorun olduğunu kabul ediyor. Fakat ön yargıyı, teknik bir çözümle giderilebilecek teknik bir soruna indirgiyorlar.

Büyük Teknoloji şirketleri, küresel ticaret anlaşmalarında imzacı ülkelerin düzenleyici çabalarını varsayımsal olarak yasa dışı kılacak girişimlerde bulunuyorlar. Ayrıca şirketler, YZ’nin içerik moderasyonu gibi çözülemeyen sorunlara çare olabileceğini ileri sürerek daha güçlü düzenleyici önlemlerden kaçmaya çalışıyorlar.

4. Yasama ve politika kaldıraçlarına dar biçimde odaklanmanın ötesine geçerek geniş tabanlı bir değişim teorisinin benimsenmesi.

İlerlemek ve kazanımların uzun ömürlü olmasını sağlamak için uzun soluklu bir mücadeleye hazırlıklı olmak gerekiyor. Çevrecilerin bulut ve YZ sistemlerinin çevreye olumsuz etkilerine ve sürdülemezliklerine karşı yürüttükleri mücadeleler; işçilerin algoritmik yönetim sistemlerine karşı direnişleri teknoloji şirketlerini uygulama ve politikalarını değiştirmeye zorlayabiliyor. Ayrıca alışık olmadığımız bir durum da hissedarların teknoloji şirketlerini sınırlayıcı eylemleri. Örneğin, Microsoft’un 2021 yılı sonundaki yıllık toplantısında Joseph of Peace Rahibeleri’nin başını çektiği bir grup Microsoft hissedarı, şirketin lobicilerinin milletvekillerine özel olarak gönderdiği mesajların Microsoft’un kamuoyu önünde verdiği sözlerle örtüşmesini sağlamaya zorlayan önergeler sundu. Rahibeler ayrıca bu tür önergeleri yüz tanıma teknolojisinin devlet kurumlarına satışının yasaklanması için de kullandılar. Teknoloji şirketlerine karşı farklı cephelerde yürütülen bu mücadeleler önemli dersler içeriyor.

YZ Şimdi Enstitüsünün hazırladığı 2023 raporunda, bu stratejiler çerçevesinde atılacak somut adımlar da belirtilmiş:

Teknoloji firmalarının veri avantajının kontrol altına alınması

• Veri politikası, YZ politikasıdır. Şirketlerin veri avantajını engellemek için atılacak adımlar yoğunlaşmayı sınırlandırmada önemli bir kaldıraç olacaktır.
• Firmaların veri toplama kabiliyetini sınırlayan kesin kurallar oluşturulmalıdır ve şirketler sundukları hizmet için gerekli olandan fazla veri toplamamalıdır.
• Mahremiyet ve rekabet YZ politikalarının geliştirilmesinde birlikte ele alınmalıdır. Şirketlerin YZ’ye yönelik farklı politika alanları arasındaki açıklığı kendi yararlarına kullanmasına izin verilmemelidir.
• Şirketlerin birleşmesine izin verilip verilmeyeceğini değerlendirirken bir araya getirilen verinin şirketlere sağlayacak avantajları ve topluma etkileri göz önünde bulundurulmalıdır. Uygulayıcılar, zararlar meydana gelmeden önce önleyici tedbirler alabilmelidir.

Teknoloji alanındaki yoğunlaşmayı azaltmak için kilit bir kaldıraç olarak rekabet reformlarının desteklenmesi

• Büyük Teknoloji şirketlerinin veri avantajlarını artıran şirket birleşmeleri kararlı bir şekilde engellenmeli ve rekabete aykırı davranışlar cezalandırılmalıdır.
• Rekabet, mahremiyet ve algoritmik hesap verebilirliğe ilişkin politika tartışmalarında kuralsızlaşmayı desteklemek için kullanılan ABD-Çin “yapay zeka yarışı” retoriğine karşı dikkatli olunmalıdır.

ChatGPT ve diğer geniş ölçekli modellerin düzenlenmesi

• Büyük dil modelleri (LLM’ler) ve diğer benzer teknolojiler sistemik riskler taşır; çeşitli kullanımlara göre ince ayar yapabilme yetenekleri, daha az değil, daha fazla düzenleyici inceleme gerektirir.
• Bu modellerin geliştiricilerinin veri ve tasarım seçimlerinden sorumlu tutulmasını sağlamak için kanıt sağlayabilecek dokümantasyon gereklilikleri zorunlu kılınmalıdır.
• Açıklık iddiaları yakından incelenmeli, üretken YZ’nin yalnızca birkaç firmanın kullanabildiği kaynaklara yapısal bağımlılığı dikkate alınmalıdır.

Zararlı YZ’ye karşı denetimlerin birincil politika olmaması

• Denetimler ve veri erişim önerileri, Büyük Teknoloji şirketleri ile kamu arasındaki güç dengesizlikleriyle yüzleşmekte başarısız olmakta ve teknoloji endüstrisindeki gücü daha da artırma riski taşımaktadır.
• Algoritmik denetim için standartlar ve metodolojiler konusunda netlik yoktur. Risk ve zarar tanımları konusunda fikir birliği bulunmamaktadır. Tüm bu eksikliklere rağmen denetim hizmeti sunan şirketlerden gelen iddialar yakından incelenmelidir.
• Geliştirdikleri YZ’nin kamuya ve/veya ticari kullanıma uygun olduğunu göstermeyi şirketlere yükleyen kurallar gibi güçlü yapısal düzenlemeler getirilmelidir.

Gelecekte biyometrik gözetimin arabalar gibi sessizce yeni alanlara yayılmasına karşı hazırlıklı olunması

• Değişen formlar ve kullanım durumları dikkate alınarak biyometrik düzenleme için kapsamlı kesin sınırlar geliştirilmelidir.
• Sanal gerçeklik ve otomobiller gibi yeni alanlarda biyometrik veri toplamanın yayılmasını engellemenin bir yolu olarak, küresel veri koruma yasalarında mevcut olan veri minimizasyonu hükümlerinin daha sıkı uygulanması sağlanmalıdır.

İşçi gözetimine güçlü sınırlamalar getirilmesi

• İşçi gözetimi temelde işverenlerin işçiler üzerinde kontrol sahibi olması ve bunu sürdürmesi ile ilgilidir. Herkese eşit fırsatlar sunan politika tedbirleri yürürlüğe konulmalıdır.
• Algoritmik yönetim ve iş yeri gözetimine karşı çalışanları koruyan temel kurallar oluşturulmalıdır.
• İspat yükü, işçilerden alınıp geliştiricilere ve işverenlere verilmelidir.
• Herhangi bir bağlamda kullanılması uygun olmayan alanlar (ör. otomatik işe alma ve işten çıkarma) ve teknoloji türleri (ör. duygu tanıma) etrafında net kırmızı çizgiler oluşturulmalıdır.

Algoritmik hesap verebilirlik ve rekabet politikasına ilişkin ulusal düzenlemeleri zayıflatmak için kullanılabilecek dijital ticaret anlaşmalarının engellenmesi.

• Ticaret anlaşmalarındaki ayrımcılık yapmama yasakları, ABD’li Büyük Teknoloji şirketlerini yurt dışındaki rekabet düzenlemelerinden korumak için kullanılmamalıdır.
• Ticaret anlaşmalarında kaynak kodu ve algoritmalar için verilen geniş kapsamlı ve mutlak gizlilik garantileri, algoritmik şeffaflıkla ilgili yasaların çıkarılması çabalarını baltalamak için kullanılmamalıdır.

***

2023’te büyük dil modellerinin yarattığı heyecanla YZ’nin yenilik ve ilerleme ile ilişkili olduğu fikri yeniden canlandı. Her yeni teknolojide olduğu gibi büyük umutlar ve korkular yaygınlaştı. Bunlar olağan şeyler. Ama “YZ ve varoluşsal riskler” gibi tartışmalar insanların enerjilerini uzak varsayımlara harcamalarına ve asıl tartışılması/yapılması gerekenlerden uzaklaşmalarına neden oluyor.

YZ sistemleri hakkındaki riskler ve sorunlar ne varoluşsal amacı kâr olan şirketler ne de söz konusu şirketlerle fazla içli dışlı olan hükümet kuruluşları tarafından aşılabilir. Ancak umutluyum. Sendikaların ve insan hakları kuruluşlarının imzacıları arasında olduğu ve YZ’de söz hakkı talep eden açık mektubun YZ’de yeni bir dönemin habercisi olduğunu düşünüyorum.