"Enter"a basıp içeriğe geçin

Kategori: Etik

Öneri Sistemleri: Sınırlılıklar ve Sorunlar

Nasreddin Hoca, evinin damında çalışırken aşağıya düşer. Komşuları başına toplanır ve hocayı soru yağmuruna tutarlar: ‘Hocam, nasıl düştün, neden dikkat etmedin, kırık var mı…’ Hoca, sorulardan bunalır ve komşularına aralarında damdan düşen biri olup olmadığını sorar. ‘Yok’ yanıtını alınca da ‘Öyleyse boşuna konuşmayın, benim halimden ancak damdan düşen anlar’, der.

Aslında gündelik hayatımızda çoğu zaman Nasreddin Hoca’yı takip ederiz. Sadece daha iyi anlaşılmak ve dertleşmek için değil daha önce bizimle benzer sorunları yaşamış olanların deneyimlerine ve önerilerine daha çok önem verdiğimiz için yaparız bunu. Öneri sistemleri ise bu kendiliğinden eğilimimizi dijital dünyaya taşırlar. Artık benzer deneyimleri yaşamış kişileri kendimiz aramayız. Öneri sistemleri bunu otomatik olarak sağlarlar. Çevrimiçi dünyada dolaşırken sürekli önerilerle karşılaşırız. Video yayını yapan platformlar izleyeceğimiz videoları önerir; müzik yayını yapan platformlar hoşumuza gidecek müzikler önerir; sosyal medya platformları takip edebileceğimiz kişileri önerir ve beğenebileceğimiz içerikleri üst sıralara taşır; alışveriş siteleri satın alabileceğimiz ürünleri gösterir… Öneri sistemleri, dijital dünyanın olmazsa olmazıdır. Bizi gerçekten aradığımız şeylere yönlendirmeyi vadederler ve etkili önerilerde bulunarak, enformasyon denizinde boğulmamızı engellerler.

Yerel Yönetimlerde Teknolojik Egemenlik

On yıl önce, eski bir NSA (National Security Agency – ABD Ulusal Güvenlik Ajansı) çalışanı olan Edward Snowden’ın sızdırdığı verilerden söz ediyorduk. Snowden’a göre NSA, yasaların izin verdiğinden çok daha fazlasını yapıyordu. Suçlu veya şüpheli olmasına bakmaksızın toplumun geneline ait verileri topluyor, filtreliyor ve analiz ediyordu. Snowden’ın ifşaatlarına göre ABD, bilişim şirketlerinden belirli kişilere ait verileri alabiliyordu. ABD’li yetkililer, bunun sadece kanunlar çerçevesinde ve mahkeme kararıyla gerçekleştiğini söylüyorlardı. Fakat NSA’nın bu şirketlerin sunucularına doğrudan erişebildiğini gösteren belgeler vardı.

Bu ifşaatlar karşısında bir çoğumuz huzur içinde sıradanlığımıza sığınmıştık. Sonuçta istihbarat örgütleri için sıradan insanlardık; telefonumuzu dinleseler veya e-postalarımız okusalar ne olurdu? Böylece son on yılda teknoloji şirketlerinin topladığı verinin miktarı ve kapsamı arttı. Gündelik hayatımızla ilgileri derinleşti. İlk başta verilerin toplanması sadece sosyal medya ve akıllı telefon kullanımına dayanıyordu. Hâlâ inisiyatifin bizde olduğuna inanıyorduk. İstersek sosyal medyadan çıkabilir veya mahremiyetimizi tehdit eden uygulamaları telefonumuzdan silebilirdik! Teknolojiyle kurduğumuz ilişkide aktif öznelerdik ya da en azından öyle düşünüyorduk. Ancak akıllı şehir girişimleri ve uygulamalarıyla beraber veri ilişkilerinin daha pasif bir bileşeni haline geliyoruz. Bu tip uygulamalar gözetim ve veri toplamayı daha geniş ve derin gerçekleştiriyorlar. San Diego’da olduğu gibi trafiği kontrol etmek üzere konuşlandırılan sokak lambaları bunun yerine vatandaşları gözetlemek için kullanılabiliyor. Şirketler, şehirleri algoritmalarla optimize etme vaadiyle şehirlerin veri akışlarını tamamen kontrol etmeye çalışıyorlar. Böylece hem şehrin altyapısı (elektrik, su, kanalizasyon, ulaşım vs) üzerindeki etkilerini artırıyorlar hem de üretilen verilerin gelecekteki kullanımını tekellerine alıyorlar. Akıllı şehirleri tartışırken kendimizi baştan sona “akıllı” teknolojilerle yapılandırılmış şehirlerle sınırlamamak gerekiyor. Bir yerden bir yere nasıl gidileceğini tarif eden veya toplu taşıma araçlarına binmek için kullandığımız uygulamaları da bu kapsamda değerlendirebiliriz.

Açık Kaynak Yazılımdan Açık Yapay Zekâya

Richard Stallman’ın 40 yıl önce, 27 Eylül 1983’te, gönderdiği bir e-posta tarihin akışını değiştirdi. Stallman, e-posta’da GNU (Gnu’s Not Unix – GNU, Unix Değildir) adlı bir işletim sistemi geliştireceğini ve GNU’yu onu kullanabilen herkese bedava (free) olarak vereceğini yazıyordu. Daha sonra Stallman niyetini özensiz bir şekilde ifade ettiğini belirtecekti:

Yapay Zeka Etiği ile Göz Boyama

Facebook/Cambridge Analytica skandalının ardından teknoloji şirketlerinin iş modelleri mercek altına alındı ve faaliyetleri sorgulanmaya başlandı. Google’ın insansız hava aracı saldırılarını iyileştirebilecek bir Pentagon programına katılması şirket çalışanları tarafından protesto edildi. Diğer yandan YZ’nin (yapay zekâ) gündelik hayattaki kullanımından kaynaklı (otomatik karar sistemlerinin kararları, mahremiyet, yüz tanıma sistemleri vb) sorunlar da giderek kendini gösteriyordu. Bu koşullarda, şirketlerin faaliyetlerinin düzenlenmesi gerektiği düşüncesi kamuoyunda ve siyasetçiler arasında yaygınlaşırken YZ etiği şirketler için hem dışarıdan düzenlemelere karşı çıkmanın hem de şirket dışında ve içinde sarsılan imajlarını toparlamanın bir aracı haline geldi. Veri ve bundan sağlanan YZ’ye dayalı kapitalizminin ortaya çıkardığı sorunların bilgisayar bilimcileri ve mühendislerinin etik davranışlarının geliştirilmesine daha fazla odaklanılmasıyla giderilebileceği iddia edildi. Şirketler, sorumlu YZ, güvenilir YZ, sosyal açıdan faydalı YZ, demokratik YZ, insan merkezli YZ vb terimler ortaya attılar. Daha sonra hükümetler, uluslararası örgütler ve sivil toplum kuruluşları YZ etiği furyasına katıldılar.