Teknoloji alanında ABD ve Çin arasında kıyasıya bir mücadele yaşanıyor. Hem ABD hem de Çin, kendi teknolojik şirketleri ve uluslararası yatırımları aracılığıyla teknolojiyi ve teknolojik standartları şekillendirmeye çalışıyor. Ama ne yazık ki ülkemizde, Çin’deki gelişmeler ABD ve Avrupa’dakiler kadar ses getirmiyor. Zihnimizde oluşturduğumuz bir Çin resmi var. Çin, Rusya, Kuzey Kore ve İran bu resimde yan yana duruyor. Bu şer ittifakı (!) bizim özgür (?) internetimizin yerine sansüre dayalı kendi internetlerini dayatmaya çalışıyor ve diğer hükümetlere kötü örnek oluyor.
Açıkçası konunun bu kadar basit olduğunu düşünmüyorum. Çin, Batılı anlamda özgürlükçü bir ülke değil. Peki Batı, Batılı anlamda gerçekten özgürlükçü mü? Slavoj Zizek’in Julian Assange hakkındaki yazısında Batı’nın bu çelişkisine dikkati çekiyor (https://artigercek.com/forum/julian-assange-bir-sersem-degil-elestirel-sol-kurulu-duzene-payanda-oluyor-285883h):
Batı’yla ilgili sorun, daha büyük adaletsizliklere sahip olan ülkeleri görmezden gelme eğiliminde olmamızdır (bu konuda İran’dan kesinlikle daha kötü olan Suudi Arabistan’ı anmak yeterli). Bazen özgürlüksüzlüklerimizi görmezden geldiğimiz için kendimizi özgür hissediyoruz, oysa ki Rusya ve Çin’de insanlar özgürlüksüzlüklerinin tamamen farkındadır.
Dolayısıyla yalnız Çin’le ilgili olanları değil, Batı’yla ilgili ön yargılarımızı da bir kenara bırakarak Çin’deki gelişmeleri takip etmemizde fayda var. Ayrıca bilişim teknolojilerindeki gelişmeleri ve etkilerini artık sadece ABD merkezli ele alamayız. Çünkü Çin’in geliştirmekte olduğu YZ düzenlemelerinin etkisi Çin’le sınırlı kalmayacak. Çin’in teknoloji ihraç ettiği ülkeleri ve küresel YZ araştırma ağlarını da etkileyecek.
Uluslararası kamuoyunun Çin’deki teknolojik gelişmelere yaklaşımı da ön yargılarla dolu. Uluslararası yorumlar genellikle iki tuzaktan birine düşüyor. Ya Çin’in düzenlemelerini önemsiz olarak görüyorlar ya da bunları siyasi bir malzeme olarak kullanıyorlar. Bir çok analist ve politikacı, Başkan Xi Jinping ve Çin Komünist Partisi’nin (ÇKP) kendi kurallarını göz ardı etme konusunda kontrolsüz bir güce sahip olduğunu ve bu nedenle yönetmeliklerin önemsiz olduğunu savunuyor. Bu nedenle, Çin’deki düzenleyici belgeleri anlamsız kağıt parçaları olarak görüyorlar. Bazı politikacılar ise kendi gündemlerini desteklemek için Çin’in YZ yönetişimi hayaletini kullanıyorlar. Örneğin ABD’li Demokrat Parti senatörü Chuck Schumer, Çin’in YZ’yi düzenleme çabalarına karşı uyarılarda bulunuyor ve Çin’in “yolun kurallarını yazmasına” izin verilmemesi gerektiğini savunuyor.
Batılı politikacıların haklı oldukları noktalar var. Fakat Çin’in girişimlerinin derinlemesine analiz edilmemesi daha büyük sorunlara neden olacak. Çin’in YZ ürünlerine getireceği özel gereksinimler ve kısıtlamalar teknolojinin Çin’de nasıl inşa edileceğini ve kullanılacağını yeniden şekillendirecek. Bunun yanında, Çin’in teknoloji ihracatı ile Endonezya’daki dil modelleri üzerindeki içerik kontrollerinden Avrupa’daki otonom araçların güvenlik özelliklerine kadar her şeyi etkileyecek. Sheehan’ın (2023, 2024) her iki çalışmasında üzerinde durduğu gibi Çin’in büyük ölçüde farklı siyasi sistemine rağmen ABD ve diğer ülkelerdeki politika yapıcılar Çin’in düzenlemelerinden ve yararlandığı araçlardan bir şeyler öğrenebilir.
Çin’in YZ’yi nasıl düzenlediği veya düzenlemeye çalıştığı konusuna girmeden önce Çin’in YZ yönetişiminin, basitçe ÇKP liderliği tarafından yukarıdan aşağıya emirler silsilesiyle yaratılmadığının altını çizmek gerekiyor. Başkan Xi Jinping ve diğer üst düzey ÇKP liderlerinin bazen politika öncelikleri konusunda üst düzey müdahaleleri olabiliyor. Fakat Çin’in YZ düzenlemelerinin şekillendirilmesinde kilit aktörler değiller. Bu düzenlemeler, Çin parti-devletinin (Çin hükümeti ve ÇKP’yi oluşturan kurumların birleşimi) hem içinden hem de dışından aktörlerin bir karışımı tarafından yönlendirilen dinamik ve yinelemeli bir politika oluşturma sürecinin ürünü olarak ortaya çıkıyor. Orta düzey bürokratlar, akademisyenler, teknoloji uzmanları, gazeteciler ve teknoloji şirketlerinde çalışan politika araştırmacıları sürecin gelişimini etkileyebiliyorlar. Bu aktörler; kamu savunuculuğu, entelektüel tartışmalar, teknik atölye çalışmaları ve bürokratik çekişmelerin bir karışımı yoluyla Çin’in mevcut ve gelecekteki YZ düzenlemelerinin temellerini atıyorlar. Çinli akademisyenler, gazeteciler, şirketler ve devlet tarafından işletilen medya kuruluşları uluslararası YZ tartışmalarını yakından takip ediyorlar. Yıllardır Batı’daki teknolojileri nasıl Çin’e uyarlıyorlarsa Batı’daki düzenleyici araçları da ayrıntılı ülkelerine uyarlamanın yollarını araştırıyorlar. Batılı meslektaşlarının aksine Çinli düzenleyiciler, (ister jeopolitik bir dosttan isterse düşmandan gelsin) başka ülkelerdeki fikirleri öğrenmeye ve uyarlamaya daha açıklar.
YZ Yönetişim Politikası Belgeleri
Çin, YZ’nin potansiyel gücünün ve bu gücü kontrol etmesi gerektiğinin farkında. 2017’den beri yayımlanan politika belgelerinde bu farkındalığın izini görebiliyoruz. Çin Devlet Konseyinin 20 Temmuz 2017’de yayımladığı Yeni Nesil Yapay Zeka Geliştirme Planı (https://digichina.stanford.edu/work/full-translation-chinas-new-generation-artificial-intelligence-development-plan-2017/) YZ’nin gelişimini teşvik etmesinin yanında 2030 yılına kadar YZ yönetişim düzenlemelerinin geliştirilmesi için üst düzey bir zaman çizelgesi de ortaya koymaktaydı.
Bilim ve Teknoloji Bakanlığına bağlı uzman bir komite tarafından 17 Temmuz 2019’da yayımlanan “Yeni Nesil Yapay Zeka için Yönetişim İlkeleri: Sorumlu Yapay Zekanın Geliştirilmesi” başlıklı belgede (https://digichina.stanford.edu/work/translation-chinese-expert-group-offers-governance-principles-for-responsible-ai/) ise YZ’nin yönetişimi için mahremiyete saygı, açık işbirliği ve çevik yönetişim gibi ilkelere yer veriliyordu.
ÇKP Merkez Komitesinin 7 Aralık 2020 yılında yayımladığı Hukukun Üstünlüğüne Dayalı Bir Toplum Oluşturmanın Taslağı (2020–2025) başlıklı parti belgesinde (https://www.chinalawtranslate.com/highlights-of-the-outline-for-constructing-a-rule-of-law-based-society/) 2025’ten önce ele alınması gereken sosyal ve hukuki sorunların uzun bir listesi vardı. Bu, özellikle öneri algoritmaları ve derin sahteye karşı önlemler alınması çağrısında bulunan ilk ÇKP politika belgesiydi.
17 Eylül 2021’de yayımlanan İnternet Bilgi Hizmeti Algoritmalarının Genel Yönetişiminin Güçlendirilmesine İlişkin Yol Gösterici Görüşler başlıklı belge (https://digichina.stanford.edu/work/translation-guiding-opinions-on-strengthening-overall-governance-of-internet-information-service-algorithms/) ise Çin Siber Uzay Yönetimi tarafından hazırlanmış; Bilim ve Teknoloji Bakanlığı, Sanayi ve Enformasyon Teknolojileri Bakanlığı, Kamu Güvenliği Bakanlığı, Piyasa Düzenlemesi için Devlet İdaresi ve Ulusal Radyo ve Televizyon İdaresi tarafından imzalanmıştı. Belge, 2024 yılına kadar çevrimiçi algoritmaların düzenlenmesine ilişkin genel bir rehberdi.
YZ yönetişimine dahil edilmesi gereken etik normlar için üst düzey rehberlik sunan Yeni Nesil Yapay Zeka İçin Etik Normlar (https://cset.georgetown.edu/publication/ethical-norms-for-new-generation-artificial-intelligence-released/) başlıklı belgede insanların YZ üzerinde kontrolü sürdürmesi ve sistemlerin nihai sorumluluğunu taşıması gerektiği savunuluyordu. 25 Eylül 2021’de yayımlanan bu belge, Bilim ve Teknoloji Bakanlığına bağlı uzman bir komite tarafından hazırlanmıştı.
İnternet Bilgi Hizmetlerinde Algoritmik Önerilerin Yönetimine İlişkin Hükümler, 27 Ağustos 2021’de bir taslak olarak sunuldu ve 31 Aralık 2021’de belgenin son hali yayımlandı (https://www.chinalawtranslate.com/en/algorithms/). Algoritmalara ilişkin bağlayıcılığı olan ilk büyük düzenlemeydi. Düzenlemenin temelinde hükümetin haberlerin ve içeriğin çevrimiçi yayılışı hakkındaki kaygıları vardı. Düzenleme, algoritmalardan etkilenen çalışanları koruyan hükümler de içeriyordu. Ayrıca düzenlemeyle gelen en büyük yenilik algoritma siciliydi (algorithm registry). Yazının devamında göreceğimiz gibi algoritma sicili, Çin’in YZ düzenlemelerinde önemli bir yere sahip.
Bilim ve Teknolojide Etik Yönetişimin Güçlendirilmesine İlişkin Görüşler, Bilim ve Teknoloji Bakanlığı tarafından 28 Temmuz 2021’de taslak olarak yayımlandı. 20 Mart 2022 tarihinde son hali yayımlanan belge, bilim insanlarının ve teknoloji geliştiricilerin uygulamaya koyması gereken iç etik ve yönetişim mekanizmalarına odaklanıyordu. YZ, yaşam bilimleri ve tıpla birlikte özellikle endişe duyulan üç alandan biri olarak değerlendiriliyordu.
28 Ocak 2022’de taslak olarak yayımlanan ve 25 Kasım 2022’de son halini alan Derin Sentez İnternet Bilgi Hizmetlerinin Yönetimine İlişkin Hükümler, metin, video ve ses oluşturmak için kullanılan YZ uygulamalarını hedef alıyordu (https://www.chinalawtranslate.com/en/deep-synthesis/). Sahte haberlerin üretilmesini yasaklanıyor ve sentetik olarak oluşturulmuş içeriğin etiketlenmesi zorunlu kılınıyordu. Düzenlemenin temel motivasyonu ise derin sahteden duyulan endişeydi.
Üretken Yapay Zeka Hizmetlerinin Yönetimine İlişkin Önlemler ise 11 Nisan 2023’te yayımlandı. ChatGPT ve YZ sohbet robotlarının popülaritesinin arttığı bir dönemde hazırlanan belge, derin sentez düzenlemesiyle benzerlikler göstermesine karşın metin oluşturma ve eğitim verilerine daha fazla vurgu yapıyordu. Hizmet sağlayıcıların hem eğitim verilerinin hem de oluşturulan içeriğin “gerçek ve doğru” olmasını sağlaması gerektiği üzerinde duruluyordu.
YZ Düzenlemelerindeki Yapısal Benzerlikler
Çin’deki YZ düzenlemelerinin üç yapısal benzerliği var:
- Algoritmaların ön planda olması
- Düzenleyici araçların ve bürokratik bilgi birikiminin oluşturulması
- Bir temel YZ yasası için zemin hazırlayan dikey ve yinelemeli (iterative) yaklaşım
Algoritmalar
YZ yönetişimi, YZ sürecinin farklı bölümlerine odaklanabilir. Örneğin, eğitim verilerini, algoritmaları veya bilgi işlem gücünü düzenlemeyi öncelikli görebilir. Çözümleri geliştiriciye bırakarak bir YZ ürünü tarafından gerçekleştirilen nihai eylemlere ilişkin gereksinimler tanımlayabilir. Çin’in YZ yönetişimine yaklaşımının temelinde ise algoritmalar vardır.
Çin’in algoritmaları, algoritma sicili aracılığıyla şeffaflaştırma girişimi bu yaklaşımın bir sonucu. Sicilin yapısı ve gerekli açıklamalar, etkili bir düzenleme için öncelikle algoritmaların anlaşılması gerektiği düşüncesine dayanır. Ancak Çin’in düzenlemeleri yalnızca algoritmalarla sınırlı değil. Sicil defteri, eğitim verilerinin kaynaklarını açıklama zorunluluğu da getiriyor.
Bürokratik Bilgi Birikimi
Çin’in YZ’yi yönetmeye yönelik ilk atılımları, düzenlemelerde kullanılabilecek belirli düzenleyici araçların temelini attı ve bürokratik bilgi birikiminin oluşmasına katkıda bulundu. Örneğin, algoritma kaydı, bakanlıkların gelecekteki düzenlemelere kolayca dahil edebileceği ve gerekliliklerini ihtiyaçlarına göre geliştirebileceği standartlaştırılmış bir açıklama aracı halini aldı.
Çinli düzenleyicilerin ilk başlarda teknoloji ve potansiyel müdahaleler hakkındaki bilgi birikimi oldukça zayıftı. Çin Siber Uzay Yönetimi temsilcileri, YZ şirketleriyle bir araya geldiklerinde teknik ayrıntılar hakkındaki anlayışlarının çok zayıf olduğu göze çarpıyordu. Dolayısıyla bu toplantılar ilk başta verimli geçmedi. Fakat zaman içinde düzenleyiciler, kilit oyuncularla ilişkilerini geliştirdiler. Bilmedikleri veya yetersiz oldukları konularda eksikliklerini gidermeye çalıştılar; yeni işe alımlarla kadrolarını güçlendirdiler.
Dikey ve Yinelemeli Yaklaşım
Çin, hem dikey hem de yinelemeli bir düzenleyici yaklaşım benimsedi. Dikey düzenlemeler, bir teknolojinin belirli bir uygulamasını veya tezahürünü hedefler. Yatay düzenlemelerde ise Avrupa Birliği’nin Yapay Zeka Yasasında olduğu gibi belirli bir teknolojinin tüm uygulamalarını kapsamaya çalışan kapsamlı şemsiye yasalar oluşturulur. Hiçbir düzenleme tamamen yatay veya dikey değildir, ancak çoğu düzenleme bir yöne veya diğerine meyillidir.
Ayrıca Çin’in düzenlemeleri değişmez bir yapıda değil. Yinelemeli süreçlerle olgunlaşıyor. Hükümet yayınladığı bir yönetmeliğin kusurlu veya yetersiz olduğunu düşündüğünde (derin sentez önlemlerini genişleten üretken yapay zeka taslak yönetmeliğinde yaptığı gibi) boşlukları kapatan veya kapsamı genişleten yeni bir tane yayınlıyor. Bu yinelemeli süreç, düzenlemelere uyum sağlamaya çalışan şirketler için kafa karışıklığına yol açabiliyor. Ancak Çinli düzenleyiciler bunu hızla değişen bir teknoloji ortamını düzenlemenin kabul edilebilir bir maliyeti olarak görüyorlar.
Çin’deki YZ düzenlemeleri; Siber Uzay Yönetimi, Bilim ve Teknoloji Bakanlığı, Sanayi ve Enformasyon Teknolojileri Bakanlığı, Kamu Güvenliği Bakanlığı, Piyasa Düzenlemesi için Devlet İdaresi, Ulusal Radyo ve Televizyon İdaresi gibi bürokratik yapıların öncülüğünde veya koordinasyonunda gerçekleştiriliyor. Ancak düzenleme süreci, basitçe yukarıdan aşağı talimatlarla ilerlemiyor. Yazının devamında göreceğimiz gibi Çin’in öneri algoritmaları ve derin senteze ilişkin düzenlemeler ayrı ayrı ortaya çıktı. Ancak paralel olarak geliştiler ve kısa sürede bürokratik olarak birbirine bağlanarak politik süreçlere dahil oldular. Yeni teknolojik uygulamaların çevrimiçi içeriğin oluşturulması ve yayılmasını nasıl etkilediğine dair yönetimsel kaygılar her iki durumda da düzenleme için itici güç sağladı. Fakat düzenlemelerin son halini almasında hükümet dışı güçler de etkili oldu. Farklı güçlerin müdahaleleriyle düzenlemelerin kapsamı, teknolojiyle ilgili diğer sosyal ve ekonomik kaygıları da içerecek şekilde genişledi.
Geçen ayki yazımda öneri algoritmalarından kaynaklı sorunlara yer vermiştim. 229. sayıda da “Derin sahte: Gördüğüne inanma” başlıklı yazımda derin sahte (deepfake) teknolojisine dikkat çekmek istemiştim. Çin’in bu teknolojilere yaklaşımını ve çözümlerinin tamamını benimsemesek de Çin’in deneyimlerinden öğreneceğimiz çok şey var.
Öneri Sistemlerinin Düzenlenmesi
Politika oluşum süreçlerinde ÇKP, Çin’in devlet ve parti tarafından yönetilen medya kuruluşları aracılığıyla önceliklerini iletir ve politikalarını açıklar. Önde gelen yayın organlarının bir sorunu vurgulaması veya bir sektörü desteklemesi hem parti içindeki hem de dışındaki aktörler için bir sinyaldir. Bu sinyal, daha alt düzeydeki düzenleyicilerin dikkatlerini bu soruna yöneltmelerine ve işletmelerin ilgili sektörde daha ısrarcı olmalarına (veya sektörden çekilmelerine) yol açabilir. Belirli bir terimin devlet gazetelerinde ne sıklıkta geçtiği, ÇKP’nin bir konuya olan ilgisinin kabaca bir göstergesi olabilir. Makalelerde yer alan argümanlar partinin o konu hakkında nasıl düşündüğüne dair ipuçları sunar. Bazı durumlarda Çin yönetimi bu yolla ileriye dönük eylemleri için siyasi ve entelektüel zemin hazırlar. Devlet medyasındaki öneri algoritmaları hakkındaki ilk tartışmalar da böyle ortaya çıktı. Yayımlanan makalelerde daha sonraki yıllarda devletin politikasını yönlendirecek fikirlere dair ipuçları vardı.
2014 ile 2016 yılları arasında, devlet medyasının iş dünyası ve teknolojiyle ilgili bazı makalelerinde öneri algoritması ve algoritmik öneri terimleri kullanılmaya başlandı. Bu dönemde öneri sistemlerine değinen makale sayısı hem azdı hem de öneri terimi, makalelerin ana konusu bakımından marjinaldi. 2016 ve 2017 yıllarında bu durum değişmeye başladı. Algoritmik önerilere atıfta bulunan makalelerin sayısı arttı. Bir çok makalede öneri sistemlerinin riskleri tartışılıyordu. Bu değişimde, 2016’daki ABD seçimlerinde sosyal medyanın rolü ve Facebook/Cambridge Analytica skandalı etkili olmuş olabilir.
Tartışmalar 2012’de ByteDance (şirket daha sonra TikTok’u çıkardı) tarafından çıkarılan Toutiao adlı uygulama üzerinde somutlaşıyordu. Kullanıcılara kişiselleştirilmiş bir haber akışı sunan, algoritma odaklı bir içerik platformu olan Toutiao, 2016 yılında Çin’in en popüler haber uygulamasıydı. Ama uygulamanın popülerliği arttıkça ÇKP’nin rahatsızlığı da artıyordu.
Aralık 2016’da Çin’in önde gelen iş dünyası dergilerinden Caijing’de, Zhang’ın kendi yaşam felsefesinden Toutiao’nun pespaye içeriklerle nasıl ilgilendiğine kadar çeşitli konulardan söz ettiği bir röportaj yayımlandı. Zhang’ın algoritmik önerilere bakışı Batılı muadillerinden pek farklı değildi. Zhang’a göre Toutiao, tarafsız bir platformdu. Algoritmalar, içeriğin asil ruhlu veya pespaye olmasıyla ilgilenmiyor sadece kullanıcılara ilgi duyabilecekleri içerikleri sunuyordu. Ayrıca derginin bir sorusu üzerine Zhang, Toutiao’nun bir medya şirketi olduğu veya yazı işleri sorumlusuna ihtiyaç duyduğu şeklindeki düşüncelere karşı çıkmıştı.
Zhang’ın gayet öz güvenli bir biçimde ifade ettiği bu liberal görüşleri zamanın Çinli girişimcileri arasında oldukça yaygındı. Zenginlerdi, halk tarafından idol olarak görülüyorlardı ve genellikle inovasyon için elinden geleni yapan bir hükümet tarafından destekleniyorlardı. Ama bu hava tersine dönmekteydi. 2016 yılının başlarında Xi, resmi medya kuruluşlarının partiye hizmet etmesini talep etmiş ve bu kuruluşların soyadının “parti” olması gerektiğini söylemişti.
Muhtemelen Zhang, kendi algoritmik platformunun bunun dışında kaldığını düşünüyordu. Çünkü ona göre Toutiao bir medya kuruluşu değildi. Fakat ÇKP aynı fikirde değildi. 23 Aralık 2016’da ÇKP’nin yayın organı olan Halkın Günlüğü’nde çıkan bir makalede Toutiao’nın adını anmadan Zhang’ın iddialarına yanıt verildi. Makalede, algoritmaların hakim olduğu bir çağda, yazı işleri sorumlularına daha fazla ihtiyaç olduğu savunuluyordu.
2017’nin ilkbahar ve yaz aylarında, devlet tarafından işletilen medya kuruluşlarında Toutiao’ya yönelik eleştiriler arttı. 18-20 Eylül tarihleri arasında, Halkın Günlüğü web sitesinde, başta Toutiao olmak üzere öneri algoritmalarından yararlanan platformları hedef alan üç makaleden oluşan bir dizi yayımlandı. İlk makalede, algoritmaların içeriğe karar veremeyeceği üzerinde duruluyor ve yazı işleri sorumlularına duyulan ihtiyaç bir kez daha vurgulanıyordu. İkinci makalede, öneri algoritmalarının okuyucuları diğer bakış açılarından mahrum bırakması (Batı’da tartışılan yankı odaları gibi) eleştiriliyordu. Üçüncü makale ise telif hakları konusunda Toutiao’ya saldırıyor ve öneri algoritmaları tarafından yönlendirilen platformların yaratıcılara zarar verebileceğini ve inovasyonun tam tersini üretebileceğini iddia ediyordu. Böylece ÇKP, öneri algoritmaları hakkındaki memnuniyetsizliğini daha net bir biçimde ifade etti.
ByteDance da sinyali almıştı ve Aralık 2017’de toplumsal haberlerin önerildiği “Toplum Kanalı”nı kapatarak yerine “Yeni Dönem Kanalı”nı açtı ve bu kanal, kullanıcılar için varsayılan haber kanalı oldu. “Yeni dönem” Xi döneminde popüler hale gelen siyasi bir slogandı ve kanal ÇKP’nin söylemlerine uygun haberleri öne çıkarıyordu. Toutiao yönetimi kamuoyuna yaptığı açıklamada bu değişikliğin 19. Parti Kongresi’nin ruhunu ve yeni dönemin inşasını daha iyi tanıtmak için yapıldığını söyledi.
Ama Toutiao üzerindeki kara bulutlar dağılmamıştı. ByteDance, Ocak 2018’de Pekin’de düzenlediği “algoritmaları açık ve şeffaf hale getirmek” konulu bir etkinlikle eleştirilerin önüne geçmek istedi. Fakat başarılı olamadı. Mart ayının sonlarında Çin devlet yayın kuruluşu CCTV’de Toutiao’nun kullanıcılara gösterdiği şaibeli tıbbi reklamların yasaları ihlal ettiğini belirten programlar yayınlandı. Birkaç gün sonra da Siber Uzay Yönetimi, uygulama mağazalarına verdiği talimatla Toutiao’nun indirilmesini üç hafta boyunca engelledi. İndirmelerin engellenmesinin ardından Zhang kamuoyundan özür diledi ve öneri algoritmalarının ulusal değerlerle daha uyumlu olmasını sağlamak için daha fazlasını yapma sözü verdi.
ÇKP, Çinlilere hangi içeriğin gönderileceğine karar verme işinin algoritmalara bırakılmaması gerektiğini savunuyordu. ÇKP, internet öncesinde, medyada hangi haberlerin öne çıkarılacağında belirleyici bir güce sahipti. İnternetle beraber devlet dışı medya organları ve web siteleri arttı. Ancak bu durumda bile öne çıkan haberlere karar veren bir yazı işleri sorumlusu vardı ve ÇKP gerek duyduğu zaman bu kişileri muhatap alabiliyordu. Toutiao’da ise bu karar verme gücü algoritmalara devredilmişti. Algoritmalar, her bir kullanıcıya kendi ilgileri doğrultusunda bir haber akışı sağlıyordu. Toutiao gibi uygulamalar Çin’in bilgi ortamını parçalıyor ve partinin olaylara ilişkin birleşik bir kamu anlatısı oluşturma yeteneğini baltalıyordu. Toutiao’nun bir yazı işleri sorumlusuna ihtiyaç duymaması ve tarafsız (!) kalarak kullanıcılara herhangi bir değer dayatmamayı tercih etmesi ÇKP’nin kabul edemeyeceği bir durumdu.
Siber Alan Yönetiminin 27 Ağustos 2021’de taslak olarak sunduğu; Sanayi ve Bilgi Teknolojileri Bakanlığı, Kamu Güvenliği Bakanlığı, Piyasa Düzenleme Devlet İdaresinin de 31 Aralık 2021’de imzaladığı düzenlemeyle öneri algoritmasını kullanan hizmet sağlayıcılarına aşağıdaki zorunluluklar getirildi:
- Aktif olarak pozitif enerji aktarmak ve ekonomik ve sosyal düzeni bozmamak
- Teşvik edilen içeriğin ana akım değer yönelimlerine uygun olması için “en çok arananlar”a ve “gündemdeki konular”a manuel müdahale mekanizmaları oluşturmak.
Öneri algoritmalarından yararlanan kullanıcılar aşağıdaki haklara sahipti:
- Bir uygulama veya web sitesi için algoritmik önerileri kapatabilme
- İçerik önerilerini kişiselleştirmek için belirli kullanıcı etiketlerini seçme veya silme
- Bir algoritmanın kullanıcıların hakları üzerinde önemli bir etkisi varsa bir açıklama alabilme
Öneri algoritmalarına dayalı işlerdeki sorumluluklar ise şunlardı:
- Algoritmaları tekelci veya adil olmayan ticari uygulamalar için kullanmamak
- Kullanıcı özelliklerine dayalı “makul olmayan” fiyat ayrımcılığı yapmamak
- Programları algoritmalar tarafından belirlenen çalışanların adil ücret ve yeterli dinlenme haklarını korumak
Ayrıca belgede, yeni bir düzenleyici araç olan algoritma sicili tanıtılıyordu. Kamuoyunu etkileyebilecek veya toplumsal hareketlilik yeteneklerine sahip algoritmalarda, algoritmaya ilişkin temel bilgilerin sağlanması ve algoritma güvenliği için öz değerlendirme yapılması şartı getiriliyordu.
Sonraki yıllarda Çinli düzenleyiciler, algoritma sicili üzerinde daha çok durdular ve algoritma sicilinin kapsamını genişlettiler. Böylece algoritma sicili,sınırlı algoritmik şeffaflığa yönelik basit bir araç olmaktan çıkıp esnek, çok amaçlı bir YZ yönetişim aracına dönüştü.
Derin Sentez
Öneri algoritmalarından sonra Çin’in ikinci hedefi derin sentez teknolojisi oldu. Derin sentez, Çin’in YZ sözlüğüne 2020 yılında girmiş bir terimdi. Öncesinde tartışmalar Batı’da olduğu gibi derin sahte teknolojisi etrafında gerçekleşiyordu. Derin sentez ise derin öğrenmenin içerik üretmek veya sentezlemek için kullanımına işaret ediyordu. Bir bakıma derin sentez, şimdilerde üretken YZ olarak adlandırdığımız teknolojiyi tarif ediyordu. Tabii derin sentez teriminin yaygınlaşması kendiliğinden olmadı. Sentetik içerik üretimini tanımlamak için derin sentez teriminin popülerleştirilmesinin arkasında Çin’in teknoloji devlerinden Tencent vardı. Böylece daha olumsuz çağırışımlara neden olan derin sahte yerine kulağa daha zararsız gelen teknik bir terim politika belgelerine girdi.
Derin sahte teknolojisinin Çin’de gündeme gelişi ABD’dekine benzer biçimde gerçekleşti. Şubat 2019’da bir internet kullanıcısının videolarda kadın ünlülerin yüzlerini değiştirmesi telif hakkı korumaları, aktörlerin gelirleri ve YZ etiği hakkında tartışmalara yol açtı. Sonraki aylarda da kamuoyunun ve basının ilgisi devam etti. ÇKP, derin sahteyi ilk olarak vatandaşların mahremiyetine ve “benzerlik haklarına” (likeness rights) yönelik bir tehdit olarak ele aldı. Bu doğrultuda kurumsal cezalar verdi ve medeni kanunda bazı değişiklikler yaptı. Ama parti, derin sahteye karşı daha kapsamlı düzenlemeler yapmanın gerektiğinin farkındaydı.
2020’nin başında derin sahte teknolojisine karşı görevlendirilen kurul ilk olarak bilgi toplamaya ve tespit için teknik araçlar geliştirmeye odaklandı. Şirketlerden derin sahtelerin oluşturulması ya da tespit edilmesine yönelik yazılım açıklamalarının yanı sıra ilgili tavsiyelerini de sunmalarını talep etti. Buna paralel olarak derin sahte tespit teknolojisi için kendi değerlendirme yöntemlerini hazırlamaya başladı.
28 Ocak 2022’de Çin Siber Uzay Yönetimi tarafından hazırlanan “Derin Sentez İnternet Bilgi Hizmetlerinin İdaresine İlişkin Hükümler” başlıklı düzenleyici belge 25 Kasım 2022’de Sanayi ve Bilgi Teknolojileri Bakanlığı ve Kamu Güvenliği Bakanlığı tarafından imzalandı. Önemli bir belge olmasına karşın şanssızdı. Beş gün sonra yayımlanan ChatGPT, bu önemli belgeyi gölgede bıraktı.
Düzenlemede hizmet sağlayıcılara çeşitli yükümlülükler getiriliyordu. Örneğin, “toplumsal geleneklere ve ahlaka saygı”, “doğru siyasi yöne, kamuoyu yönelimine ve değer eğilimlerine bağlı kalmak” gibi genel ideolojik ilkeler üzerinde duruluyordu. Ayrıca derin sentez hizmet sağlayıcıları için özel yasaklar ve gereklilikler vardı. Hizmet sağlayıcıların aşağıdaki sorumlulukları yerine getirmeleri bekleniyordu:
- Sahte haber üretiminin, yayınlanmasının veya iletilmesinin önüne geçmeleri,
- Derin sentez istemlerinin (prompt) ve çıktılarının teknik veya manuel incelemelerini yapmaları,
- Bir kişinin biyometrik özellikleri düzenleniyorsa, kullanıcılara kişinin onayını almaları gerektiğini hatırlatmaları,
- Biyometrik özelliklerin düzenlenmesi veya ulusal güvenlik ya da ulusun imajı ile ilgili olabilecek içeriklerin üretilmesi durumunda kurum içi veya üçüncü taraf güvenlik değerlendirmelerini yapmaları
- Derin sentez hizmet sağlayıcıları için “teknik destek” sağlayan kuruluşların güvenlik değerlendirmeleri yapmaları ve algoritma siciline başvuruda bulunmaları
Hizmet sağlayıcılar, aşağıdaki filigran (Watermarking) gereksinimlerini yerine getirmeliydi:
- Oluşturulan veya düzenlenen tüm içerikler tanımlama için dijital filigran içermelidir.
- Oluşturulan içeriğin kafa karışıklığına neden olma veya halkı yanlış yönlendirme ihtimali varsa sağlayıcılar makul bir konumda olan ve göze çarpan bir etiket eklemelidir.
Düzenlemelerin Oluşum Süreci
Yazının başında da belirttiğim gibi Çin’in YZ düzenlemeleri, Başkan Xi Jinping veya ÇKP Merkez Komitesi tarafından belirlenen, yukarıdan aşağıya bir kurallar silsilesi değildir. Örneğin, bir yönetmelik, Siber Uzay Yönetiminden çıktıktan sonra, birkaç kat bürokratik danışma sürecinden geçer. Bu süreç tüm yönetmelikler için aynı değildir, ancak öneri algoritmaları ve derin sentez hakkındaki düzenlemelerde bu yol izlenmiştir. Bir yönetmelik önce geri bildirim için Siber Uzay Yönetimi bünyesindeki diğer bürolara, ardından da hükümet genelindeki diğer ilgili bakanlık ve kurumlara dağıtılır. İç istişare süreci tamamlandıktan sonra, dışarıdan uzmanlar, şirketler ve sıradan vatandaşlar da dahil olmak üzere kamuoyundan geri bildirim almak için bir taslak yayınlanır. Daha sonra revize edilmiş bir versiyon, nihai taslak yayınlanmadan önce ilgili bakanlıklar ve kurumlar arasında bir kez daha geri bildirim için dolaştırılır. İlk taslaklar genellikle yalnızca Siber Uzay Yönetimi tarafından yayınlanır. Nihai versiyonlar bazen yönetmelikte geçen konuları denetleyen diğer bakanlıklar veya kurumlarla birlikte yayınlanır.
Örneğin, öneri algoritmalarına ilişkin düzenlemelerde algoritmaların haksız rekabet veya tekelci uygulamalar için kullanılmasını yasaklayan bir hükümler ilk taslakta olmamasına rağmen sonradan eklendi. Ayrıca öneri algoritmalarının düzenlenmesine işçi haklarıyla ilgili 20. maddenin eklenmesi de sonradan oldu. 20. maddede şöyle yazıyor (https://www.chinalawtranslate.com/en/algorithms/):
Algoritmik öneri hizmetleri sağlayıcıları, işçiler için iş koordinasyonu hizmetleri sağladıkları durumlarda, işçilerin ücret alma, dinlenme ve tatil yapma gibi yasal hak ve menfaatlerini koruyacak ve iş emri verme, ücret bileşimi ve ödeme, çalışma süreleri, ödüller ve cezalar vb. ile ilgili algoritmalar oluşturacak ve geliştireceklerdir.
Bu madde, esnek platformlarda çalışan işçilerin kötü çalışma koşullarının gündeme gelmesinden sonra eklendi. Çin’deki yemek dağıtım uygulamaları restoran hizmetlerinde köklü değişikliklere neden oldu. 2020 yılına gelindiğinde Çin’de elektrikli bisikletler ve scooterlarla yemek dağıtımı yapan 6 milyon işçi vardı. Meituan ve Ele.me adlı iki şirket sektörün %98’ini kontrol ediyordu. 2020’de programları ve rotaları algoritmalar tarafından belirlenen yemek dağıtım işçilerinin mücadelelerini anlatan ve viral hale gelen bir dergi haberinin yayınlanması sonrasında işçilerin kötü çalışma koşulları kamuoyunun tepkisine neden oldu. Kamuoyu, Ele.me ve Meituan’a karşı öfkeliydi. Şirketler uygulamalarında yaptıkları küçük değişikliklerle bu endişeleri yatıştırmaya çalıştı. Ele.me kullanıcılara teslimat için “beş dakika daha bekleme” seçeneği sunarken, Meituan sekiz dakikalık “esnek teslimat süresi” ekledi. Ancak bu çözümlerle şirketler sorumluluğu tüketicilerin üzerine yüklüyorlardı. Çin devlet medyası eleştirilerin dozunu arttırdı. Parti-devlet bürokrasisinin farklı kesimleriyle ilişkili gazeteler, algoritmalara teknik müdahalelerden firmalarla işçiler arasındaki sözleşme ilişkisinin yeniden düzenlenmesine kadar farklı çözümler önerdi.
7 Temmuz 2021’de Devlet Konseyi, platform ekonomisinde çalışan işçilerin haklarının korunmasına ilişkin bir bildiri yayınladı. Bildiride, siparişlerin atanması ve işçi tazminatlarının belirlenmesinde kullanılan algoritmaların iyileştirilmesi için dağıtım platformlarına yönelik bir çağrı da yer alıyordu. Ağustos 2021’de Siber Alan Yönetimi, programları ve maaşları algoritmalar tarafından belirlenen işçilerin korunmasını öngören hükümleri içeren algoritmik önerilere ilişkin taslak yönetmeliğini yayınladı. Sheehan (2024), düzenleyici kurumlar arasında Siber Alan Yönetiminin, kamuoyunun tepkisine karşı özellikle duyarlı olduğunu belirtiyor. Siber Alan Yönetiminin bu duyarlılığı daha çok çevrimiçi tartışmaları izleme ve sansürleme rolünden kaynaklanıyor.
***
Çin’in YZ düzenlemeleri Çin vatandaşlarını Çinli şirketlere karşı koruyor. Ancak vatandaşlar, devletinin eylemlerine karşı korumasızlar. Yine de YZ düzenlemesi Çin’de de olsa (onu gidip birebir almasak da) yapılan çalışmalara bir bakmak gerekiyor. Algoritma sicili gibi düzenleyici araçlar ve Çin’in düzenleme deneyimleri diğer ülkeler için de yararlı olabilir.
Çin, bunu yapıyor. Çinli düzenleyiciler, (ister jeopolitik bir dosttan isterse düşmandan gelsin) başka ülkelerdeki fikirleri öğrenmeye ve bunları uyarlamaya istekliler. AB ve ABD’deki trendleri ve düzenleme girişimlerini yakından takip ediyorlar.
Üstelik Batı da 2016’daki Facebook/Cambridge Analytica sonrasında algoritmaların haber akışını belirlemesine karşı henüz tatmin edici bir çözüm geliştirebilmiş değil.
Kaynaklar
Sheehan, M. (2023). China’s AI regulations and how they get made. Horizons: Journal of International Relations and Sustainable Development, (24), 108-125.
Sheehan, M. (2024). Tracing the Roots of China’s AI Regulations. Horizons: Journal of International Relations and Sustainable Development, https://carnegieendowment.org/2024/02/27/tracing-roots-of-china-s-ai-regulations-pub-91815, son erişim 20.03.2024
İlk Yorumu Siz Yapın