Yapay zekâ (YZ) teknolojileri gündelik yaşamda hızla yaygınlaşırken makinelerin etik kararlar alma yetenekleri hakkındaki tartışmalar da çoğalıyor. Özerklik ve etkileşim yetenekleri arttıkça, YZ sistemlerinin ahlaki aktörler olarak algılanması ve davranması bekleniyor. Ancak YZ ve etik ilişkisi hakkındaki tartışmalarda zaman zaman gündeme gelen tramvay probleminin gösterdiği gibi makinelerin etik kararlar verebilmesi hâlâ pek kolay değil.
Tramvay problemi (trolley problem), etik, psikoloji ve YZ alanlarında, daha fazla sayıda insanı kurtarmak için bir kişinin feda edilip edilmeyeceğine ilişkin etik ikilemler içeren bir düşünce deneyi. İlk kez 1967’de Philippa Foot tarafından ortaya atılmış. Judith Jarvis Thomson’ın 1976’da yazdığı makale, tramvay problemi hakkında geniş bir literatürün oluşmasına öncülük etmiş. Tramvay problemi tartışmaları, çoğunlukla basitten karmaşığa doğru ilerliyor. Örneğin basit bir senaryoda bir tramvay (veya tren), beş insana çarpıp onları öldürmek üzeredir. Sürücü veya makasçı olarak, tramvayı farklı bir yere yönlendirebilirsiniz. Bunu yaptığınızda ise bir kişi ölecektir. Beş kişinin yaşamını kurtarmak için bir kişinin yaşamını feda eder miydiniz? Kararınızda kişilerin cinsiyetleri, yaşları, meslekleri vs etkili olur muydu?
moralmachine.net sitesinde, bir sürücüsüz arabanın karşı karşıya kalabileceği ikilemler hakkında testler var. Sürücüsüz araba, iki kötü durumdan daha az kötü olanı seçmelidir. Siz de testlerde dışarıdan bir gözlemci olarak hangi seçimin daha kabul edilebilir olduğuna karar veriyorsunuz. Örneğin arabanın içinde bir erkek doktor, iki evsiz insan ve iki kedi var. Bir hırsız ve iki köpek de yaya geçidinden geçiyorlar. Araba, ya bariyerlere çarparak içindekilerin ölümüne neden olacak ya da direksiyonu kırarak yaya geçidinden geçenlere çarpacaktır. Başka bir senaryoda ise ya arabadaki bir kız çocuğu ve bir erkek doktor ölecektir ya da bir yaşlı adam, bir kadın doktor ve bir köpek ölecektir.
Tramvay senaryoları, YZ sistemlerinin belirli durumlarda nasıl davranmasını istediğimiz hakkında düşünmemizi sağlayan varsayımsal soyutlamalardır. Yalnız otonom araçların değil diğer YZ sistemlerinin de ahlaki ikilemlerle yüzleşmesi ve bunları çözmesi gerekebilir. Örneğin, akıllı bir ilaç dağıtıcısı, yeterli ilacı olmadığında iki hasta arasında seçim yapmak zorunda kalabilir; bir arama-kurtarma robotunun bazı kurbanlarla öncelik vermesi gerekebilir; ya da bir sağlık robotu, hastanın istekleri ile en uygun bakım arasında seçim yapmak zorunda kalabilir. Ancak Dignum’un (2019) vurguladığı gibi tramvay senaryolarındaki ikilemlerin gerçekçi bir durumu tasvir etmeyi amaçlamaktan ziyade, otonom makinelerin karşılaşabileceği etik zorlukları vurgulamak için kullanılan bir metafor olduğunu unutmamak gerekir. Otonom bir arabanın veya arabanın içindeki bir insanın, bir kazayı önlemek için yeterli zaman veya beceriye sahip olmaması ve kime zarar vereceğini seçmek zorunda kalması çok olası olmayan bir senaryodur. Ayrıca tramvay problemi,
- dünyanın durumu hakkında güvenilir ve mükemmel (veya yeterince iyi) bilgiye sahip olunduğunu,
- tam bir kontrolle bir eylemin sonucunun bilinebileceğini,
- düşünmek için yeterli zaman olduğunu
varsayar.
Üstelik tasarımda hangi etik yaklaşımı benimseyeceğimiz de önemlidir. Sonuçsalcı ya da faydacı bir araba; eylemlerinin sonuçlarına odaklanacak ve en iyi sonuca ulaşmak için araç-sonuç muhakemesi yürütecektir. Bu nedenle, kurtarılan insan hayatlarının sayısını en üst düzeye çıkarmaya çalışabilir. Kantçı bir araba; olası eylemlerinin ahlaki olup olmadığını değerlendirerek insanlara zarar vereceğini bildiği bir eylemi seçmekten kaçınabilir. Bu nedenle, eğer yoldan çıkmanın birine zarar vereceğini biliyorsa, aktif olarak yoldan çıkma eylemini gerçekleştirmeyi seçmeyecektir. Erdemli bir araba ise kendi güdüleriyle ilgilenecek ve erdemli bir failin hangi eylemi gerçekleştireceğini düşünecektir. Bu durumda, yayaların en savunmasız olduğuna ve öncelikle onları koruması gerektiğine karar verebilir (age).
Neyse ki günümüzde sürücüsüz araçları hangi etik teoriye göre tasarlayacağımıza karar vermemiz gerekmiyor. Çünkü mevcut YZ, medyadaki abartılı haberlerin aksine bunun çok uzağında ve önünde çeşitli zorluklar var. En başta YZ’nin tepki verilecek bir olay olduğunun farkına varabilmesi ve çeşitli parametreleri hesaba katabilmesi gerekiyor. Örneğin, tramvay problemi için YZ; cinsiyet, yaş, statü gibi faktörleri çok kısa bir sürede belirleyebilmeli. İkincisi, karşılaşılan durumun etik boyutlarını ve verilecek kararın olası sonuçlarını öngörebilmeli. Üçüncüsü, mevcut durumu çözmenin kendi sorumluluğunda olup olmadığına karar verebilmeli. Dördüncüsü, soruna hangi soyut etik kural(lar)ın uygulanabileceğine ve değerler birbirleriyle çeliştiğinde nasıl hareket edilebileceğine karar vermeli. Ayrıca kararın bazı önyargılardan veya bilişsel engellerden etkilenip etkilenmediğini belirleyebilmek de önemli. Beşincisi, somut bir çözüm önermek için soyut etik kuralları mevcut soruna uygulayabilmeli (age).
Bu nedenle, YZ sistemlerinin etiği hakkındaki sonu gelmez tartışmalardansa günümüze bakmak, YZ’nin tasarım, geliştirme, konuşlandırma ve kullanım aşamalarında şirketlerin, kurumların ve bireylerin sorumluluklarına odaklanmak; hesap verebilirlik mekanizmalarını düzenleyen ulusal ve uluslararası yasalara öncelik vermek kamu için daha yararlı olabilir. Açıklanabilirliği artırma, yanlılıkları (bias) azaltma, mahremiyeti güçlendirmek için anonimleştirme gibi hedefler doğrultusunda yapılan teknik çalışmalar yararlı olmakla beraber sorunları salt tekniğe indirgemek gibi bir tehlike de içeriyorlar. Bu yazıda ele alacağım mahremiyet sorununda olduğu gibi güç ilişkilerini veya çözmeye çalıştığı sorunların toplumsal bağlamını görmezden gelen yaklaşımların gerçekçi ve işe yarar çözümler geliştirebilmeleri pek olanaklı değil. Örneğin teknoloji şirketleri sık sık gizliliği mimarinin içine yerleştirdiklerini iddia ediyorlar. Fakat mahremiyetin ne olduğu sorusunu yanıtlanmadan böyle bir işe girişmek, planı olmayan bir bina inşa etmeye veya tarifi olmayan bir kek pişirmeye benziyor (Solove, 2025).
Mahremiyet Nedir?
David Vincent’in Mahremiyetin Kısa Tarihi adlı kitabında anlattığı gibi mahremiyet olgusuna çok eski çağlardan beri rastlanıyor. Elbette günümüzde mahremiyeti tartışırken mahremiyetin zaman içinde değiştiğini ve yeni anlamlar kazandığını da dikkate almak gerekiyor. Solove (2010) mahremiyetin öncelikle bireyleri, kişisel yaşamlarını etkileyen belirli toplumsal müdahale biçimlerine karşı koruduğunu savunuyor. Bu bağlamda, mahremiyeti anlamak için kişisel yaşamda kesintilere neden olabilecek müdahalelere odaklanmayı öneriyor ve bu müdahaleleri dört kategoriye ayırıyor:
1. Bilgi toplama. Kişiler hakkında verilerin toplandığı yöntemler;
2. Bilgi işleme. Kişisel verilerin depolanması, kullanımı ve analizi;
3. Bilgi yayma. Kişisel verilerin aktarıldığı veya ifşa edildiği araçlar;
4. İhlaller. Bir bireyin yaşamına doğrudan müdahaleler.
Bilgi toplama, veri toplama süreci boyunca sorunlar yaratabilir. Toplanan hiçbir bilgi kamuya açıklanmasa bile eylemin kendisi zarar verebilir. Sürekli izlenmek, insanlarda endişe ve rahatsızlık hissi yaratabilir; özgürlüğü, yaratıcılığı ve kişisel gelişimi olumsuz etkileyebilir.
Bilgi işleme, toplanmış olan verilerin kullanımı, depolanması ve manipülasyonudur. İşleme, verileri birbirine bağlamanın ve ilgili oldukları kişilerle ilişkilendirmenin çeşitli yollarını içerir. Genellikle çeşitli sistemler arasında veri alışverişi gerçekleştirilir ve bir sistemde olan veriler, diğer verilerle birleştirilir. İşleme, bilgi toplamadan ayrılır çünkü işleme, bilginin toplandığı araçlarla değil, bilginin birleştirilmesi ve kullanılması yoluyla sorun yaratır.
Bilginin yayılması, kişisel verilerin başkalarına aktarılması ve ifşa edilmesi ile ilgilidir. Bu sorun; taraflar arasında gizliliğin ihlali, ifşa, teşhir, artan erişebilirlik, şantaj, çarpıtma vb biçimlerde meydana gelebilir. Gizliliğin ihlali, bir kişinin bilgilerini gizli tutma sözünün çiğnenmesidir. İfşa, bir kişi hakkında başkalarının onun itibarını değerlendirme şeklini etkileyen doğru bilgilerin ifşa edilmesini içerir. Artan erişilebilirlik, verilerin başlangıçta kamuya açık hale getirildikleri amaçlar dışında kullanılmasına neden olabilir. Örneğin, şirketler ticari ve pazarlama amaçlı analizler için kamu kayıtlarından veri toplayabilir. Çarpıtma, bireyler hakkında yanlış veya yanıltıcı bilgilerin yayılmasını içerir. Bilgi yayma faaliyetlerinin tümü, kişisel verilerin yayılmasını veya aktarılmasını ya da bu yönde bir tehdidi içerir.
İhlaller ise insanların özel hayatlarına yönelik saldırıları içerir. Diğerlerinden farklı olarak ihlalin kişisel bilgileri içermesi şart değildir. İhlal, kişinin huzurunu veya yalnızlığını bozan istilacı eylemlerle ilgilidir. Örneğin spam e-postalar ve tele-pazarlama bu kapsamdadır; insanların zamanını ve dikkatini çalarak faaliyetlerini kesintiye uğratırlar.
Solove’un (2025) mahremiyet tanımında kişisel yaşama müdahale vurgusu olmasına rağmen mahremiyet ihlalleri sadece bireyleri değil, tüm toplumsal yapıyı etkiler. Mahremiyet bireysel bir soruna indirgendiğinde ve ifade özgürlüğü, güvenlik, inovasyon, verimlilik ve şeffaflık gibi toplumsal değerlerle karşı karşıya getirildiğinde daha kolay gözden çıkarılabilir bir değer gibi görünür. Ancak mahremiyetin korunması, daha iyi bir toplumsal ortam için gereklidir; mutluluğu, entelektüel keşfi ve kişinin potansiyelini gerçekleştirme becerisini teşvik eder. Bireysel yaşama ve toplumsal yapıya aşağıdaki gibi katkılarda bulunur.
Gücün sınırlanması: Mahremiyet, hükümetin ve şirketlerin gücünü sınırlar. Kişisel veriler kararları şekillendirmek ve davranışları etkilemek için kullanılabilir. Bu nedenle, yanlış ellere geçtiğinde tehlikeli sonuçlar doğurabilir. Hükümetler ve şirketler kişisel verileri; insanlara saldırmak ve onları itibarsızlaştırmak, ayrımcılık yapmak, insanları haksız yere gözaltına almak ve ortadan kaldırmak, baskıcı sosyal kontrol uygulamak için kullanabilir.
Bireye saygı: Bir kişinin mahremiyetine saygı duymak, onun kişiliğine saygı duymaktır. Bir kişinin makul mahremiyet ihtiyacını görmezden gelmek ona karşı yapılmış bir saygısızlıktır.
İtibar yönetimi: İtibar, kariyer fırsatlarını, arkadaşlıkları ve genel refahı etkiler. Mahremiyet, insanlara itibarlarını yönetme olanağı sağlar. Sadece yalanlar değil bazı gerçeklerin ifşa edilmesi de insanların itibarına zarar verebilir. Çünkü insanlar hakkında daha fazla detayın bilinmesi, onların karakterleri hakkında daha iyi bir yargıya varılmasını sağlamaz. Başka bir kişi hakkındaki hikayenin tamamını nadiren bildiğimiz için, mahremiyet yanlış yorumlanmaya çok müsait bilgileri korur.
Sosyal sınırların korunması: İnsanlar kendi etraflarında fiziksel ve bilgisel sınırlar oluştururlar. Rahatlamak, samimi ve rahat olmak için insanlar başkalarının bakışlarından kaçabilecekleri yalnızlık ve inziva yerlerine ihtiyaç duyarlar. Ayrıca çoğu insan ne herkesin kendileri hakkında her şeyi bilmesini ister ne de başkaları hakkında her şeyi bilmek ister. Mahremiyet, insanların farklı ilişkilere göre değişen sınırlar çizebilmesini sağlar.
Güven: Tüm toplumsal ilişkiler güvene dayanır. Bu nedenle, mahremiyetin ihlali aynı zamanda bir güven ihlalidir.
Kişinin hayatıyla ilgili kararların adilliği: Kişiler hakkında toplanan ve işlenen veriler, kredi veya iş başvurularında etkili olur. Kişilerin kendileriyle ilgili veriler hakkında söz sahibi olabilmesi yaşamsal önemdedir.
Düşünce ve ifade özgürlüğü: Gözetim, bilgi ve fikirleri keşfetmemizi ve ifade etmemizi engelleyebilir. Mahremiyet, bunun önüne geçtiği gibi popüler olmayan mesajların iletimini korumanın da anahtarıdır.
Toplumsal ve siyasi faaliyetlerin özgürlüğü: Mahremiyet, siyasi faaliyetlerde bulunma yeteneğimizi korur. Oy verme işleminin yanında diğer siyasi faaliyetlerin yürütülmesinde de mahremiyet önemlidir.
Bedenlerin ve cinselliğin korunması: Mahremiyet, insanların bedenlerini ve yakın ilişkilerini müdahaleci incelemelerden korur.
Değişebilme ve ikinci bir şansa sahip olabilme hakkı: İnsanlar yaşamları boyunca değişir ve ikinci bir şansa sahip olmak, geçmiş hataların ötesine geçmek ve kendilerini yeniden keşfetmek için fırsatlara ihtiyaç duyarlar. Mahremiyet, insanların büyüdükçe ve olgunlaştıkça pişmanlık duyabilecekleri geçmiş eylem ve kararları geride bırakmalarına yardımcı olur. Kişisel gelişimi ve sosyal bütünleşmeyi teşvik etmek için geçmişte yapılan bazı yanlışların ifşa edilmemesi önemlidir. Unutulma hakkının temelinde de bu ihtiyaç vardır.
Kendini açıklamak veya haklı göstermek zorunda olmamak: İnsanlar her zaman düşünce ve eylemlerini gerekçelendirmek zorunda kalmamalıdır. Bazı eylemler uzaktan yanlış değerlendirilebilir ve utanç verici görünebilir. Başkalarının eylemlerimizi nasıl algılayacağı konusunda sürekli endişe duymak ağır bir yüktür. Mahremiyet, insanların maruz kaldığı kendini haklı çıkarma baskısını hafifletebilir.
Mahremiyet ve Teknoloji
Son yıllarda teknolojide yaşanan gelişmeler mahremiyeti doğrudan etkiliyor ve mahremiyet için ciddi riskler içeriyor. Solove (2025), başlıca dört alanda kritik gelişmeler yaşandığını belirtiyor:
1. Enformasyon ve Bilgi: Teknolojinin enformasyonun (ham veri) bilgiye (işlenmiş veri) nasıl dönüştürüldüğünü etkilediği yer;
2. Yargılar ve Kararlar: Teknolojinin insanların birbirlerini nasıl yargıladığını ve bireyler hakkında nasıl karar verildiğini değiştirdiği yer;
3. Düşünce ve Davranış: Teknolojinin insanların nasıl düşündüğünü, algıladığını ve hareket ettiğini değiştirdiği yer;
4. Güç: Teknolojinin toplumda gücün nasıl dağıtıldığını değiştirdiği yer.
Enformasyon ve Bilgi
Eskiden veri akışı sınırlı sayıda ve birbirine yakın yaşayan insanlar arasında gerçekleşirdi. Dijital teknolojiler, verilerin insanlar ve kuruluşlar arasındaki hareketini önemli ölçüde artırdı. Çok çeşitli veri, daha hızlı ve kapsamlı olarak dolaşıma girdi.
Günümüzde bir çok insan gibi yasalar da mahremiyet ile gizliliği (secrecy) birbirine karıştırma eğiliminde. Yasalara göre kişisel veriler ya gizlidir ya da ifşa edilmiştir. Kişi verilerini ifşa etmişse, kanun mahremiyet korumaları sağlamayı reddeder. Oysa mahremiyet aslında sınırlarla ilgilidir. İnsanlar nadiren verilerini tamamen gizli tutarlar. Verilerini kendi koydukları sosyal sınırlara göre arkadaşlarıyla, aileleriyle, iş arkadaşlarıyla veya hizmet aldıkları kişi veya kuruluşlarla paylaşırlar. Kişi bir bilgiyi, arkadaşıyla paylaşırken ailesiyle paylaşmak istemeyebilir. Ya da doktoruyla paylaştığı bilgiyi sigortacısının bilmemesini ister. Bu nedenle, verinin daha önce bir kişi ya da kurumla paylaşılmış olması verinin ve dolayısıyla mahremiyetin korunamayacağı anlamına gelmez. Daha kapsamlı ve hızlı veri akışı, hem bireylerin koyduğu sosyal sınırları aşındırdı hem de onların sınır koyma gücünü zayıflattı.
Sorun yalnızca hızlı veri akışı da değil. İnternet, tüm verileri yutan dipsiz bir kuyu gibi. Yazının icadından bu yana verinin kalıcılığı, teknolojik gelişmelerle beraber her geçen gün artıyor. Ama yazı, sınırlı kapasitede ve seçiciyken internet her şeyi içine çekiyor. İnsanların belki gelecekte hiç hatırlamak istemeyeceği aptalca ve utanç verici anları arkadaşları ya da bizzat kendilerince internette yayımlanıyor. Kişinin alışverişleri ve hareketleri gibi günlük işlemlerle ilgili veriler kaydediliyor. Dijital teknolojiler bu kadar çok verinin depolanmasını kolay ve ucuz hale getirdiği gibi gelişmiş arama özellikleri ile eski verilere hızlı ve kolay erişim olanağı sağlıyor.
Unutulma hakkı gibi düzenlemeler olumlu olmakla beraber sınırlı bir etkiye sahipler. İnsanların kendileri hakkında saklanan tüm verileri temizlemek için silme talebinde bulunacak zamanları olmadığı gibi çoğu zaman da verilerine sahip olan kuruluşları hiç tanımıyorlar. Dolayısıyla bireylerin tek başlarına kendileri hakkında oluşturulan dijital hafızayı kısıtlama şansları çok sınırlı oluyor. Bireylerin, toplanan veriyi en aza indirgemeyi hedefleyen mahremiyet düzenlemeleriyle desteklenmesi gerekiyor. Söz konusu veri düzenlemeleri yalnızca toplanma amaçlarına ulaşmak için gerekli olan verilerin saklanmasını ve bu amaçlara ulaşıldıktan sonra verilerin silinmesini şart koşuyor. Fakat sıkı yaptırımlar olmadan bu düzenlemeler etkisiz kalabiliyor.
Dijital teknolojiler, gündelik yaşamın her alanını verileştirmek için kullanılıyor. Önceden kamuya açık yerlerde pek kimsenin dikkatini çekmeden var olabiliyorken günümüzde artık sıradan konuşmalarımız dinleniyor; hareketlerimiz takip ediliyor; dört bir yandaki kameralar yüzlerimizi kaydediyor. Gündelik yaşam etkinliklerimiz internetin içine gömüldükçe her adımımızda (hatta giyilebilir teknolojileri düşünürsek her nefesimizde!) dijital ayak izleri üretiyoruz.
Ayrıca kamu kurumları ve belediye yönetimleri, kamuya açık olmasına rağmen bir zamanlar sadece tozlu arşiv odalarında tutulan ve çok az kişinin ilgisini çekebilecek verileri internete taşıyarak verilerin erişebilirliğini artırıyorlar. İnternetin yükselişinden çok önce açık kayıt yasaları bireylerin hükümetlerin faaliyetlerini izleyebilmelerini sağlamak için çıkarılmıştı. Ancak bugün, bu yasalar baş aşağı çevrilerek bireylerin faaliyetlerine ışık tutmak için kullanılıyor. Pek çok hükümet, kamuya ait verileri çevrimiçi yayınlayarak verilerin erişebilirliğini artırıyor. Büyük veri şirketleri de kamu kurumlarının yayımladığı verileri kendi ellerindeki verilerle birleştirerek yurttaşlar hakkında daha ayrıntılı bilgiler elde edebiliyorlar. Bir diğer deyişle veriler, artık hükümetin işleyişi hakkında bilgi edinmek için değil, yurttaşlar hakkında dosyalar derlemek için kullanılıyor.
Teknoloji verilerin bir araya getirilmesini bir hayli kolaylaştırıyor. Bu bağlamda, mahremiyet ihlallerinin çoğu zaman büyük bir ihlalle değil, çok sayıda küçük ihlalin bir araya gelmesiyle gerçekleştiğine dikkat etmek gerekiyor. Küçük kişisel veri parçalarının birleştirilmesi, parçaların toplamından çok daha fazlasını ortaya çıkarabiliyor. Farklı veri parçaları bir araya getirilerek kişilerin dijital bir portresini oluşturulabiliyor.
Bu nedenle, zararsız ve açıklayıcılığı sınırlı veriler, bir araya getirildiklerinde insanların açığa çıkarmak istemeyeceği bazı gerçekleri de ortaya çıkarabiliyor. Mahremiyet ihlalleri genellikle tek bir zamanda, tek bir kuruluştan kaynaklanmıyor. Bunun yerine, çok sayıda kuruluş yavaş yavaş biriken küçük şeyler yapıyor. Daha fazla veri parçası toplandıkça, kullanıldıkça, aktarıldıkça ve çevrimiçi olarak ifşa edildikçe biriken veriler daha açıklayıcı (ve zarar verici!) hale geliyorlar.
Yargılar ve Kararlar
YZ modelleri, daha önce toplanan verilerle eğitilir ve gelecek hakkında öngörülerde bulunmamıza yardımcı olurlar. Ancak öngörülere dayalı kararlar insanların fırsatlarını ve özgürlüklerini etkiler. Bireyler sağlıklarıyla ilgili öngörüler nedeniyle daha yüksek sağlık sigortası primi ödeyebilir veya işe alınmayabilir. Terör eylemlerine karışabileceklerine dair öngörülere dayanarak havaalanında daha sıkı kontrollere maruz kalabilirler. Suç işleyebileceklerine dair öngörüler nedeniyle soruşturmaya uğrayabilirler.
Algoritmik öngörüler, bireyin kendi kaderini tayin etmesine yönelik önemli bir tehdit oluşturur. Çünkü yalnızca geleceği öngörmekle kalmaz, aynı zamanda onu şekillendirir ve kontrol eder. Ayrıca öngörüler, kendi kendini gerçekleştiren birer kehanete de dönüşebilir. Örneğin, belirli bir profile uyan kişilerin suçlu olma ihtimalinin yüksek olduğuna dair bir öngörü, bu kişilerin daha fazla tutuklanmasına ve mahkum edilmesine yol açabilir. Polisin özellikle belirli bir profile uyan kişilere odaklanması daha fazla suçlunun yakalanmasıyla sonuçlanır. Fakat bu durum profili çıkarılan kişilerin suç faaliyetinde bulunma ihtimalinin daha yüksek olduğu anlamına değil, çok sayıda kişi polis soruşturmasına tabi tutulduğunda bazı suç faaliyetlerinin ortaya çıkma ihtimalinin yüksek olduğu anlamına da gelebilir.
Algoritmik öngörüler, geleceği gösteren sihirli bir küre değildir. Sadece geçmiş verilerden üretilen olasılıklardır. Bu nedenle, geleceğin değil geçmişin bir resmini sunarlar. Ancak geçmişten gelen veriler önyargı, ayrımcılık, eşitsizlik ve ayrıcalıklarla çarpıtılmıştır. Dolayısıyla algoritmik öngörüler eşitsizliği ve önyargıyı yeniden üretme eğilimindedir.
Öngörülere dayalı kararlar, insanların yapmadıkları şeyler için cezalandırılmaması gerektiği şeklindeki temel adalet ilkesini ihlal eder. Adalet sistemi tahminlere dayandığında, insanları yapmadıkları ve asla yapamayacakları şeylere dayanarak yargılar ve mahkum eder. Örneğin, gelecekte bir noktada terör eylemi gerçekleştireceğinize dair bir öngörü, ancak öldüğünüzde yanlışlanabilir.
Algoritmik öngörüler, karar süreçlerinin otomasyonu için de kullanılıyor. Fakat AB’nin Genel Veri Koruma Yönetmeliği (GDPR) gibi yasalar yalnızca otomatik kararlara karşı özel korumalar sağlıyorlar. Birçok otomatik karar sadece kısmen otomatik olduğundan kapsam dışında kalıyor. Kararların kısmen otomatik olması ilk başta yararlı görünmekle beraber iş sürece yalnızca bir insan eklemek otomasyonun hastalıklarını tedavi edemiyor. Çünkü karar süreçleri, tutarlılık ve kuralları sıkı sıkı uygulama hedefiyle otomatikleştiriliyor. İnsanlar ise karar verirken daha esnek davranabiliyor ve takdir yetkisini kullanabiliyor. Dolayısıyla politika yapıcılar, insanların algoritmaları denetlemesini istediklerinde, bu doğal gerilimi göz önünde bulundurmaları gerekiyor.
Teknoloji, insanların birbirlerini nasıl yargıladığını da etkiliyor. İtibar, insanların sosyal ilişkilerini, iş bulmasını ve arkadaşlıklarında belirleyici oluyor. Analog dünyada başkalarının hakkımızdaki düşünceleri, dedikodular, deneyimler vb kaynaklardan elde edilen bilgi parçalarının bir araya gelmesiyle oluşuyor. Geçmişte başkalarının zihnindeki resmimizin oluşumu hakkında sınırlı bir etkimiz varken dijital teknolojiler işleri daha da zorlaştırdı. Çevrimiçi veri parçaları genellikle bir kişinin yüzeysel bir portresini çizebiliyor. Ayrıca sözkonusu veriler şüpheli ve filtresiz sayısız kaynaktan besleniyor. Sahte videolar, sesler, görseller, profillerle ise tüm bunlara tuz biber ekiyor.
Düşünce ve Davranış
Teknolojinin hızla gelişmesi, bireylerin dijital mahremiyet ve veri güvenliği konusundaki beklentilerini sürekli olarak boşa çıkarıyor. Kullanıcılar, kişisel verilerinin nasıl toplandığını, kullanıldığını ve paylaşıldığını anlamakta zorlanıyorlar. Bu nedenle, teknoloji ilerledikçe mahremiyet beklentileri de azalıyor. İnsanlar artık her yerde veri toplama, sürekli gözetim ve kapsamlı izlemeye maruz kaldıkça daha az şeyin mahrem olmasını yadırgamamaya başlıyor. Fakat mahremiyet, yalnızca bir beklenti meselesi değil, bir hak ve gereksinim. Bu nedenle, dijital dünyanın karmaşık yapısı dikkate alınarak toplumun mahremiyetini korumaya yönelik daha etkin ve önleyici tedbirler için adımlar atılması gerekiyor.
Teknolojilerin tasarımı insanların mahremiyet konusunda kendi çıkarlarına aykırı seçimler yapmalarına neden oluyor. Teknolojik tasarım giderek artan bir şekilde bireyler üzerinde derin bir kontrol uyguluyor. Yazılımların, web sitelerinin ve elektronik cihazların tasarımı, insanların neleri yapıp neleri yapamayacaklarını, nasıl davranacaklarını, başkalarıyla nasıl etkileşime gireceklerini, karar verme biçimlerini, ne kadar kişisel veri ifşa edeceklerini ve daha pek çok şeyi kontrol ediyor. Dolayısıyla tasarım konusunu ele almadan teknolojiyi düzenlemek neredeyse imkansız. Buna karşın tasarım tercihlerinin mahremiyet üzerindeki etkileri günümüzde genellikle yeterince ilgi görmüyor. Örneğin, birçok çevrimiçi platformun kullanıcı etkileşimini en üst düzeye çıkarma çabası genellikle kutuplaşma, taciz, siber zorbalık ve diğer zararlar pahasına gerçekleşiyor. Kullanıcılar, kişisel verilerini paylaşmaya teşvik ediliyorlar. Daha sonra pişman olabilecekleri aşırı paylaşımlar yapmaya veya mahrem sırlarını ifşaya yönlendiriliyorlar. Kişisel verileri toplama ve kullanma gücünün artması, kuruluşların insanları daha etkili bir şekilde manipüle edebilmelerini sağlıyor. İnsanlar sonsuz bir döngünün içine düşebiliyorlar: Kişisel verilerini paylaşmaları için manipüle ediliyorlar ve bu veriler daha sonra onları daha fazla manipüle etmek için kullanılıyor.
Ayrıca teknoloji genellikle kararlar ve etkileri arasındaki mesafeyi artırıyor. Böylece sosyal medya kullanıcıları yüz yüze iletişimde asla yapmayacakları şeyleri çevrimiçi olarak yapıyor. Çünkü eylemlerinin sonuçlarını görmüyorlar.
Teknolojinin insan davranışlarına bir diğer etkisi ise yarattığı güven yanılsaması. İnsanlar diğer insanlarla, şirketlerle ve kurumlarla güven ilişkileri kuruyor ve bu güven arttıkça kendileri hakkında daha fazla bilgi paylaşıyorlar. Örneğin, otostop çekmekte isteksiz olan insanlar, bir araç paylaşım uygulamasını kolayca kullanabiliyor ve hiç tanımadığı bir yabancının arabasına binebiliyor. Aynı şekilde ilginç bir gönül rahatlığıyla kişisel verilerini şirketlerle paylaşıyor. ChatGPT gibi uygulamalarla kişisel sohbetler yapabiliyor ve hatta bir psikologla konuştuğu yanılsamasına kapılabiliyor.
Mahremiyet düzenlemelerini eleştiren bazı kişiler, yasaların şirketlerin bireylerle kurduğu ilişkilere müdahale etmemesi gerektiğini ve serbest piyasanın bunu çözeceğini savunuyorlar. Şirketler, yanlış hareket ettiklerinde müşterilerinin güvenini ve dolayısıyla para kaybedeceklerdir. Bir çok insan da aldığı hizmeti puanlarken serbest piyasanın sorunları çözebileceğini umuyor. Ya da herhangi bir sorunda başka bir uygulamaya ve platforma geçebilirim diye düşünüyor.
Mahkemeler de bireylerin şirketlerle olan ilişkilerini yasal koruma gerektiren gizli ilişkiler olarak görme konusunda isteksizler. Bir doktor hastasının verilerini hastanın rızası olmadan sattığında doktora hasta gizliliğini ihlal nedeniyle dava açılabiliyor. Bir şirket aynı şeyi bir müşterinin verileriyle yaptığında da müşterinin benzer bir yasal hakkının olması gerekiyor. Ama öyle olmuyor. Solove’un (2025) altını çizdiği gibi şirketler doğal olarak oluşan varlıklar değiller; özel ayrıcalıklara sahip kurgusal yasal oluşumlar. Yasalar şirketlere özel ayrıcalıklar tanıyor. Bunun karşılığında şirketlerden daha büyük sorumluluklar talep edebilmeliler.
Güç
1990’lı yıllardaki beklentilerin aksine internet, özgürlüğün değil kontrolün egemen olduğu daha karanlık bir yere dönüştü. Bu da düzenlemeden değil, düzenleme eksikliğinden kaynaklandı. Düzenleme boşluğunda şirketler ve hükümetler, bireyler hakkında büyük miktarlarda veri topladı ve daha sonra bu verileri onları kontrol etmek için kullanmaya başladılar.
İyimserler, yurttaşların yeni teknolojiler yardımıyla hükümetleri izleyebileceklerini ve kontrol edebileceklerini savunuyordu. Bu nedenle güçlü mahremiyet korumaları yerine şeffaf bir toplumu hedeflememiz gerekiyordu. Solove’un (2025) belirttiği gibi bu iddiaların sahipleri fazla iyimserdiler. Bireyler ve büyük kuruluşlar arasındaki eşitsiz güç ilişkilerini ihmal ediyorlardı. En başta bireyler, büyük kuruluşların verileri analiz etme ve kullanma gücünden yoksunlardı. Ayrıca teknolojinin gücü eşitlemesi az rastlanan bir durum. Tam tersine teknoloji çoğu zaman, güçlü olanı daha da güçlendirme ve eşitsizlikleri artırma eğiliminde.
Örneğin kimlik belirleme teknolojileri insanları haklarındaki dosyalarda yer alan verilerle ilişkilendirir ve bu da insanların birçok günlük faaliyette sahip olduğu anonimliği tehdit eder. Kimlik belirleme, izlenmekten ve takip edilmekten kaçınmayı zorlaştırır. Eğer insanlar kolayca tanımlanabiliyorsa, hükümetlerin onları izlemesi çok daha kolay olacaktır. Kimlik belirleme, toplumun sistematik kontrolünde önemli bir adımdır. Kimlik belirlemede parmak izi, göz, ses vb biyometik verilerin kullanımı daha da kesin bir kimlik tespiti sağlar. Fakat biyometrik verilerin depolanması risklidir. Çünkü parolalar değiştirilebilse de biyometrik veriler değiştirilemez. Bir diğer deyişle, biyometrik veriler istenmeyen kişi veya kurumların eline geçtiğinde bunun bir çözümü yoktur.
Eskiden maliyet, veri depolama konusunda sınırlayıcı bir faktörken bugün kuruluşlar çok büyük miktarlarda kişisel veriyi ucuz bir şekilde toplayıp depolayabiliyorlar. Dolayısıyla gözetim artık sadece maddi olanakları geniş hükümetler tarafından gerçekleştirilmiyor. Hükümetlerin ve şirketlerin iç içe geçtiği bir gözetim ağı var. Pek çok mahremiyet yasası, toplanan veriyi en aza indirme ilkesiyle veri toplama ve saklama dürtüsünü dizginlemeye çalışsa da bu giderek büyüyen gözetim ağı karşısında yeterince başarılı olamıyor. Üstelik maliyetin sınırlayıcılığının azalması yalnızca depolama teknolojilerinde gerçekleşmiyor. Hükümetler ve büyük şirketler dışında daha küçük ölçekli saldırganlar da insanların mahremiyetine zarar verebilecek araçlara kolayca erişebiliyorlar. YZ destekli teknoloji ile gerçeği kurgudan ayırt etmeyi zorlaştıran derin sahte görüntüler ve videolar oluşturulabiliyor. Hesap verebilirlik mekanizmalarının yokluğunda, daha geniş olanaklara kavuşan çeşitli aktörlerin insanların mahremiyetine yönelik saldırıları artıyor.
Şirketler ise nadiren yarattıkları zararın sorumluluğunu üstleniyorlar. Bir şirketin milyarlarca kullanıcısı olduğunda, her bir kullanıcı için küçük zararlara neden olmak, toplamda büyük miktarda zarara yol açabilir. Ancak yasalar, tek bir kişiye verilen ciddi zararı, birçok kişiye dağılmış küçük zararlardan çok daha kolay tanıyor ve ele alıyor. Solove (2025) hukukun zarar anlayışını modern dijital teknolojilerin zararlı etkilerini de kapsayacak şekilde modernize edene kadar, mahremiyetin korunmasında yetersiz kalacağına dikkati çekiyor.
Hukuk daha çok veri ihlallerine odaklanıyor. Bu nedenle, bir ihlal meydana geldikten sonra devreye giriyor ve genellikle ihlale maruz kalan kuruluşların üzerine gidiyor. Fakat veri ihlalleri sadece oyunun son perdesi oluyor. Güvensiz cihaz ve yazılımların tasarımcıları, uygulamaları dağıtan platformlar gibi aktörlere sorumluluğu dağıtmak yerine daha çok veri ihlalinden etkilenen kuruluşa odaklanılıyor. Bu nedenle hukukun son perdede olaya dahil olmak yerine, kişi ve kurumları eylemlerinden sorumlu tutması; kamuya karşı şeffaf olmayı ve zararların maliyetlerini karşılamayı de içeren hesap verebilirlik mekanizmaları üzerinde durması gerekiyor.
***
Mahremiyet, gözetim kapitalizmini dizginleyebilir. Şirketleri tamamen durduramasa da onları yönlendirebilir. Fakat veri, mevcut YZ yaklaşımlarının temelini oluşturduğundan bu kolay olmayacaktır. Büyük Teknoloji şirketleri, başta mahremiyet yasaları olmak üzere veri toplamanın ve analizinin önündeki engelleri kaldırmak veya zayıflatmak istiyorlar.
Şirketlerin söyleminde mahremiyet, bireysel bir soruna indirgeniyor. Böylece mahremiyet, ifade özgürlüğü, güvenlik, inovasyon, verimlilik ve şeffaflık gibi toplumsal değerler karşısında daha güçsüz bir konuma itiliyor. Bunu yanında mahremiyet konusunda yaşanan sorunların sorumluluğu bireylere yükleniyor. İnsanlar (kullandıkları platformlar onları tam da bunu yapmaya teşvik etmek için tasarlanmış olsa da) verilerini sosyal medyada paylaşarak mahremiyetlerine kendi kendilerine zarar vermekle suçlanıyorlar. Kullanıcılar gizlilik bildirimlerini okumadıkları, verilerine erişmeye çalışmadıkları ve bunları düzeltmedikleri için suçlanıyorlar. Web sitelerine girişte, şirketlerin verilerini toplamasına ve kullanmasına izin veren rıza metinlerini onayladıkları için eleştiriliyorlar. İnsanların mahremiyeti gerçekten önemsemediği iddia edilerek daha sıkı mahremiyet düzenlemelerinin önüne geçilmek isteniyor.
Nick Couldry ve Ulises A. Mejias’ın Bağlantının Bedelleri: Veri Sömürgeciliği Tartışmalarına Bir Giriş adlı kitaplarında yazdıkları gibi okumadan kabul ettiğimiz uzun ve anlaşılmaz metinler Amerika’yı yağmalayan sömürgecilerin işgal ettikleri topraklarda yerli halkın yüzüne okudukları bildirgeye benzer. İspanyolca okunan bu bildirgede toprakların gerçek sahibinin yerliler değil sömürgeciler olduğu, boyun eğmeleri durumunda yaşamları, mülkleri ve dini inançlarına dokunulmayacağı belirtilir. Aksi taktirde ülkelerine zorla girilecek, mallarına el konacak, karıları ve çocukları köleleştirilecektir. Ama yerliler İspanyolca bilmedikleri gibi bildirgedeki dini ve yasal kavramlar kendilerine çok uzaktır. Okumadan imzaladığımız uzun ve anlaşılmaz metinler sömürgecilerin günümüzdeki bildirgeleridir. Sözleşmelerde şirketin hakları ve bizim hak kayıplarımız ayrıntılı, hukuksal bir dille belirtilir. Yerlilerden farklı olarak sözleşmeyi reddetme şansımız vardır. Ama içine çekildiğimiz veri ilişkileri, bu reddi çoğu zaman olanaksızlaştırıyor.
Fakat mahremiyet, her şeyden önce güçle ilgili bir konu. Dijital teknolojiler, gücü bireylerden güçlü organizasyonlara kaydırarak mahremiyet ihlallerinin önünü açıyor. Teknolojiler, gözetim yoluyla bireyler üzerindeki kontrolü kolaylaştırıyor ve eşitsizliği artırıyor. Veri toplama, kullanma ve aktarma maliyetlerini düşürerek gözetimin ve mahremiyet ihlallerinin muazzam ölçeklerde gerçekleşmesine yardımcı oluyorlar.
Kendi mahremiyetlerini koruma sorumluluğunu bireylere yüklemeyi bırakan ve iyi tanımlanmış hesap verebilirlik mekanizmalarıyla bireyleri, şirketleri ve kurumları neden oldukları sonuçlardan sorumlu tutan yasalara ihtiyacımız var.
Kaynaklar
Dignum, V. (2019). Responsible artificial intelligence: how to develop and use AI in a responsible way (Vol. 2156). Cham: Springer.
Solove, D. J. (2010). Understanding privacy. Harvard university press.
Solove, D. J. (2025). On Privacy and Technology. Oxford University Press.
İlk Yorumu Siz Yapın