Nasreddin Hoca, evinin damında çalışırken aşağıya düşer. Komşuları başına toplanır ve hocayı soru yağmuruna tutarlar: ‘Hocam, nasıl düştün, neden dikkat etmedin, kırık var mı…’ Hoca, sorulardan bunalır ve komşularına aralarında damdan düşen biri olup olmadığını sorar. ‘Yok’ yanıtını alınca da ‘Öyleyse boşuna konuşmayın, benim halimden ancak damdan düşen anlar’, der.
Aslında gündelik hayatımızda çoğu zaman Nasreddin Hoca’yı takip ederiz. Sadece daha iyi anlaşılmak ve dertleşmek için değil daha önce bizimle benzer sorunları yaşamış olanların deneyimlerine ve önerilerine daha çok önem verdiğimiz için yaparız bunu. Öneri sistemleri ise bu kendiliğinden eğilimimizi dijital dünyaya taşırlar. Artık benzer deneyimleri yaşamış kişileri kendimiz aramayız. Öneri sistemleri bunu otomatik olarak sağlarlar. Çevrimiçi dünyada dolaşırken sürekli önerilerle karşılaşırız. Video yayını yapan platformlar izleyeceğimiz videoları önerir; müzik yayını yapan platformlar hoşumuza gidecek müzikler önerir; sosyal medya platformları takip edebileceğimiz kişileri önerir ve beğenebileceğimiz içerikleri üst sıralara taşır; alışveriş siteleri satın alabileceğimiz ürünleri gösterir… Öneri sistemleri, dijital dünyanın olmazsa olmazıdır. Bizi gerçekten aradığımız şeylere yönlendirmeyi vadederler ve etkili önerilerde bulunarak, enformasyon denizinde boğulmamızı engellerler.
Öneri sistemleri, çevrimiçi dünyada yolumuzu bulmamıza ve karar vermemize yardımcı olmak üzere tasarlanmışlardır. Temel görevlerinden biri enformasyon yığınları arasında iyi ögeleri bulmaktır (Herlocker et al., 2004). Bartmann (2023) iyi sıfatını aldatıcı derecede basit bulur. İyi öge nedir? Kim için iyidir? Öneri sistemini kullananlar, öneri sisteminin sahipleri veya üçüncü taraflar? Örneğin, e-ticarette iyi bir ürün önerisi basitçe bir satın alma ile sonuçlanan öneri midir? Doğal olarak kullanıcı bir önerinin iyi olduğunu düşünmezse önerilen ürünü almaz. Ancak satışlarla iyi önerilerin her zaman örtüştüğünü söyleyemeyiz. Çünkü tüketicilerin öneri sistemleri tarafından gerçekte ihtiyaçları olmayan şeyleri satın almaya yönlendirilmesi sık karşılaşılan bir durumdur.
Tıklama oranlarında da benzer bir çelişkiyle karşı karşıya kalırız. Kullanıcıların kendilerine önerilen bağlantılara tıklaması, kullanıcıya ilgili ve arzu ettiği içeriğin sunulmasının bir sonucu olabilir. Peki iyi bir öneri örneği teşkil eder mi? Kullanıcıları belirli bağlantılara tıklatmayı hedefleyen çeşitli yöntemler vardır. Bunlar ilk başta zararsız görünebilir. Ama tıklama tuzakları veya kullanıcıların bir platformda olabildiğince zaman geçirmesini hedefleyen stratejiler “filtre balonları” (kullanıcıların sadece ilgi alanına giren ve kendilerini rahatsız etmeyen içeriklerle karşılaşmasını anlatan bir kavram) ve “yankı odaları” (sosyal medyada kullanıcıların yalnız kendi görüşlerine yakın paylaşımlarla karşılaştığı ve farklı düşüncelerle karşılaşmanın ise pek mümkün olmadığı ortamlar) gibi daha büyük sorunlara neden olabilir (age).
Bir şeyi önermek her zaman bir nüfuz elde etme girişimidir. Fakat bu girişim her zaman manipüle etmeyi veya diğerinin özerkliğini çiğnemeyi içermez. Zihinsel yetilerimizin kapasitesi sınırlıdır. Bu nedenle, enformasyonun sıralanması veya filtrelenmesi bir zorunluluktur. Platformlardaki algoritmalar, neyi, hangi sırada gösterecekleri konusunda bir seçim yaparlar. Gündelik hayatta karşılaştığımız bir çok şey, kendiliğinden değil, başkaları o biçimde olması için karar verdiği (filtrelediği) için öyledir. Örneğin marketler veya dükkanlar; hangi malları satacaklarına, bunları nereye ve nasıl yerleştireceklerine, öne çıkaracakları ürünlere karar verirler. Bu kararlar, seçeneklerimizi ve onları nasıl algıladığımızı belirler. Dolayısıyla dijital platformların hangi seçenekleri sunacağına ve hangilerini öne çıkaracağına karar verirken algoritmalardan yararlanması, platformların kullanıcılar üzerindeki etkisini doğrudan manipülatif hale getirmez.
Platformlar, çoğunlukla ticari kuruluşlardır. Platform sahipleri sundukları ve öne çıkardıkları konularda veya ürünlerde serbesttir. Ticari platformların kararlarını kaçınılmaz olarak maddi çıkarlar belirler. Üstelik platformun ticari çıkarlarıyla kullanıcının çıkarlarının çatışması bir zorunluluk değildir. Kullanıcının platformla etkileşimi sonucunda hem platform sahiplerinin hem de kullanıcıların iyiliği gerçekleşebilir. Ancak öneren ve önerilen arasındaki ilişkiyi her seferinde dikkatle ele almak gerekiyor. Önerilen kişi, önerilerin ihtiyaçlarını karşılayacağı veya kendisine keyif vereceği beklentisi içindedir. Ayrıca önerenin önerisini, önerilen ürüne ve onun belirli özelliklerine dayandırması beklenir. Bazı durumlarda, önerenin, önerilenin özel ihtiyaçlarını veya zevkini dikkate alması da beklenir.
Öneren ve önerilen arasındaki ilişki basitçe böyle görünür. Bir platformda bir şey aradığımızda ve bir sonuç listesi aldığımızda genellikle sıralamanın bazı kriterlere göre belirlendiğini ve listenin en üstünde yer alan sonuçların özellikle alakalı oldukları için orada olduğunu bekleriz. Ancak platformun belirli ürünleri sergilemek, önermek ve öneri sistemlerini buna göre programlamak için çeşitli nedenleri olabilir. Örneğin, bazı ürünleri diğerlerinden daha fazla satmak isteyebilirler, daha iyi bir sıralama karşılığında para almış olabilirler veya kullanıcının ortalama fiyatı kolayca kabul etmesini sağlamak için aşırı fiyatlı ürünleri sergileyebilirler. Öneriler, kullanıcının belirli bir durumda makul olarak karşılayacağı faktörlerden başka faktörler tarafından belirleniyorsa öneren ve önerilen arasındaki ilişkinin yanıltıcı veya manipülatif olarak gerçekleştiği söylenebilir.
Öneri sistemlerinde karşı karşıya olduğumuz sorunları ikiye ayırabiliriz. Birincisi, bir öneri sisteminin manipülatif bir araca dönme potansiyelidir. İkincisi ise yapay öğrenmeye dayalı öneri sistemlerinin kendi yapısal sınırlılıklarından kaynaklı sorunlardır. Birinci kategorideki sorunlar, öneri sistemleri platform sahiplerinin elinde toplum mühendisliğinin bir aracı haline gelmesine neden olabilir. İkinci kategorideki sorunlar ise bu sistemlerin her zaman beklendiği gibi çalışmaması ile ilgilidir.
Öneri Sistemleri Nasıl Çalışır?
Öneri sistemleri, çoğunlukla yapay öğrenme tekniklerine dayalı algoritmalardır ve öneriler, kullanıcının veya benzer düşünen diğer kullanıcıların geçmiş seçimlerine veya kişisel bilgilerine dayanır. Öneri sistemlerinde, içerik tabanlı ve işbirlikçi filtreleme adı verilen iki temel yaklaşım vardır.
İçerik tabanlı öneri sistemleri, seçenekleri belirli özellikleri paylaşan ögelere göre filtreler. Bunun için kullanıcının geçmişteki dijital ayak izlerinden yararlanılır. Çünkü bir öneri sisteminin benzer ögeleri önerebilmesi için kullanıcının geçmişte beğendiği ögeler gibi bazı referans noktalarına ihtiyacı vardır. Belirli bir ürünün iyi olduğuna karar verirsem, bu karar genellikle ürünün sahip olduğu belirli özelliklere dayanır. Dolayısıyla söz konusu özelliklere sahip benzer ürünler için de aynı değerlendirmeyi yapma olasılığım yüksektir.
İşbirliğine dayalı filtreleme yöntemleri, birden fazla kullanıcının geçmiş kararlarına ve derecelendirmelerine göre öneriler oluşturmak üzere tasarlanmıştır. İşbirlikçi filtreleme, yalnızca kullanıcıların alışkanlıklarını gözlemleyerek bilgi toplama avantajına sahiptir. Veri, kritik önemdedir. Etkileşim verileri azsa veya kullanıcı bir platforma yeni üye olmuşsa öneri sisteminin çıktıları daha zayıf olacaktır. İçerik tabanlı yöntemlerde ise kullanıcıların tercihlerine ayak uydurmak ve takdir edilen çözümler sunmak için tutarlı bir yeni öge (örneğin şarkılar, haberler, videolar) akışı gerekir. Bir diğer deyişle, içerik tabanlı ve işbirliğine dayalı yöntemlerin farklı dezavantajları vardır. Bu nedenle, Netflix ve Amazon gibi şirketler her iki yöntemin zayıflıklarını gidermeyi hedefleyen hibrit yöntemlere başvururlar.
Etkileşim veya öge sayısının az olması nedeniyle hem işbirlikçi filtrelemenin hem de içeriğe dayalı yöntemlerin yetersiz olacağı durumlarda bilgiye dayalı yöntemler uygulanır. Bilgiye dayalı öneri sistemleri, kullanıcılar tarafından açıkça sağlanan ve sistem tarafından doğrudan sorulan bilgilere dayanır. Örneğin, bir kiralama web sitesi, kullanıcıların bir mülkün maksimum fiyatı veya minimum boyutu hakkında açıkça sağladığı bilgilere dayanarak öneriler sunabilir.
Özetle, günümüzdeki öneri sistemlerinin gücü eğitimleri için kullanılan veri setlerine dayanır. Ama öneri sistemlerinin sınırlılıklarının temelinde de veri vardır!
Yapısal Sınırlılıklar ve Sorunlar
Öneri sistemleri, değerlendirme standartlarımızın oluşumunda giderek daha kritik bir rol üstleniyor. Haberleri sıralarken aslında bazı haberleri ön plana çıkarıyor ve diğerlerinin okunma olasılığını azaltıyorlar; izleyebileceğimizi filmleri seçip bazılarına daha üst sıralarda yer verdiklerinde sıralama hoşumuza gittiyse listenin altına hiç bakmıyoruz; hangi kişilerin daha iyi çalışan olabileceği hakkında öneriler ve sıralamalar yaptıklarında bazılarına yeni olanaklar sağlarken bazılarının önünü kesiyorlar. Kısaca yalnız dünyayı nasıl gördüğümüzü değil, bizzat dünyayı şekillendiriyorlar. Bu şekillendirme sürecinde öneri sistemlerinin yararlandığı veri setlerinin kritik bir yeri var. Ancak öneri sistemlerinde algoritmaların çıktılarını bozacak güçler de çoğunlukla veri ile ilgili. Robbins (2023) bu güçleri dört başlık altında tartışıyor:
- Öneri sistemi çıktılarının yalnızca geçmiş değerlendirme standartlarına dayanması
- Çıktıların yalnızca hesaplanabilir bilgilere dayanması
- Algoritmaların iyi öneriler için vekiller yardımıyla eğitilmesi
- Algoritmaların kara kutulu olması ve çıktıya yol açan düşüncelerin açıklanamaması.
Geçmiş Değerlendirme Standartları
Kişisel etik ve estetik standartlarımız gibi toplumsal standartlar da zaman içinde değişir. Ancak öneri sistemleri bir adım geriden gelir ve geçmiş değerlendirme standartlarının iyi olduğu varsayımı üzerine inşa edilir.
Amazon’un bir süre iş alım süreçlerinde kullandığı öneri sistemi, karşılaşılabilecek sorunların tipik bir örneğidir. Amazon’un öneri sistemi işe alımlarda kimin iyi bir çalışan olacağını değerlendirebilmek için geçmiş değerlendirme standartlarından yararlanıyordu. Fakat kısa bir süre sonra, geçmiş değerlendirme standartlarının daha yüksek pozisyonlar için erkeklerin kadınlardan daha iyi çalışanlar olduğu fikrine eğilimli olduğu fark edildi. Çünkü sistem, eğitim sürecinde ağırlıklı olarak erkek adayların özgeçmişleriyle eğitilmişti ve bunun sonucunda erkekleri daha tercih edilebilir adaylar olarak değerlendiriyordu.
Bugün iyi ve kabul edilebilir olan bazı değerlendirme standartlarının gelecekte iyi olmaya devam etmeyebileceğini dikkate almak gerekiyor. Geçmişte belirli bir rol için iyi bir çalışanı oluşturan profil ve karakter gelecekte iyi bir çalışanı oluşturan profil ve karakterden farklı olabilir.
Veri, her zaman geçmişe aittir ve artık geçersizleşmiş standartlar içermesi olağandır. Fakat standartların zaman içinde değişebileceği bilgisi, algoritmaların hangi bağlamlarda faydalı olabileceğini ve karşılaşabileceğimiz tuzakları sorgulamamıza yardımcı olacaktır.
Hesaplanabilir Bilgiye İndirgeme
Öneri sistemlerini eğitmek için kullanılan veriler makine tarafından okunabilir veriler olmalıdır. Bu da ya makine tarafından okunamayan bilgilerin dışarıda bırakılması ya da makine tarafından okunamayan bilgilerin makine tarafından okunabilen bilgilere dönüştürülmesi gerektiği anlamına gelir.
Makine tarafından okunamayan bilgilerin dışarıda bırakılması, değerlendirmemize katkıda bulunabilecek birçok bilgiyi önemsizleştirecektir. Örneğin, iş başvuruları değerlendirilirken kişinin çalışmaya iki yıl ara vermiş olması bir olumsuzluk olarak değerlendirilir. Fakat bu aranın nedeni nedir? Örneğin, kişi hasta bir yakınına bakmak için çalışmaya ara vermiş olabilir. Ancak bu gibi bilgiler algoritmaya katılamadığında dolaylı olarak önemsiz kabul edilir. Bunun sonucunda olağan dışı koşullara sahip insanlar olumsuz etkilenirken normal yaşamlı insanlar ayrıcalıklı hale gelir.
Makine tarafından okunamayan bilgilerin makine tarafından okunabilir hale getirildiği iddia edildiğinde işler daha da kötüleşir. Örneğin, duygu tespiti, yalan tespiti, ağrı tespiti vb. hedefler için genellikle video veya görüntü verileri analiz edilir; insanların yüz ifadelerinden çıkarımlar yapılır. Bu gibi çalışmaların bilimsel temelleri hakkında ciddi şüpheler vardır. Robbins’in (2023) vurguladığı gibi duygular ve karakter özellikleri gibi hesaplanamayan bilgileri hesaplanabilir bilgilere indirgemeye çalışmak bugüne kadar mümkün olmadı. Ama bu mümkünmüş gibi hareket edilmesi ve değerlendirmelerin buna göre yapılması yeni sorunlar doğuruyor.
‘İyi’ İçin Vekiller Kullanma
Yapay öğrenme tarafından desteklenen öneri sistemleri için bir hedef gereklidir. Bir sosyal medya akışı bir gönderiyi akışınızın en üstüne yerleştirerek önerdiğinde amaç kullanıcının bu gönderiye tıklamasını, yeniden paylaşmasını, yanıtlamasını vb. sağlamak olabilir. Eğer bir öneri sizin sisteme etkileşiminizi artırıyorsa o zaman önerilen şey sizin için iyidir.
Ama bir algoritma bana patates kızartması öneriyorsa ve ben de ona tıklayıp sipariş veriyorsam algoritmanın benim için iyi olanı yaptığını söyleyebilir miyiz? Sağlığım için iyi olan patates kızartması gibi yemeklerden kaçınmaktır. Örneğin haber akışında, kullanıcıların içerikle etkileşimini artırmayı hedefleyen bir yapay öğrenme algoritması kullanıcının haberle etkileşiminin iyi olduğunu varsayar. Ama aynı soruyu tekrar sormak gerekir: Kim için iyidir? Yanıltıcı olmak için yazılan ve insanlara dünyada olup bitenler hakkında yanlış bir izlenim veren haberler ve komplo teorileri daha ilgi çekici olabilir. Kullanıcı, bu gibi içeriklerle meşgul edilmesi kendisi veya toplum için iyi olabilir mi?
İşe alım için kullanılan öneri sistemlerine bakalım. En çok önerilen adaylar işe alındığında algoritma başarılı olur. Ancak döngüsel bir durum ortaya çıkar. Sistemin tüm amacı iyi adaylar önermektir; ancak ‘iyi’ sadece adayın işe alınıp alınmadığının bir ölçüsüdür. Şirket iyi adayları işe almak ister. Ancak şirket, kimi işe alırlarsa alsın aldığı kişi ‘iyi’ olarak kabul edilecektir.
Değerlendirme amaçlı kullanılan öneri sistemleri, etkileşim veya tıklama gibi basit hedeflere yöneltildiğinde bizim için gerçekten iyi olan şeylerden uzaklaşabilirler. Platformlar, algoritmalarının hedeflerinin iyilikle hiçbir ilgisi olmadığını ve tek hedeflerinin reklam satabilmek olduğunu ve bunun için de daha fazla etkileşime ihtiyaç duyduklarını söyleyebilirler. Fakat işe başvuran adayların filtrelenmesi ve sıralanması, hüküm giymiş suçlular için şartlı tahliyenin değerlendirilmesi, hangi haberlerin öne çıkacağı ciddi toplumsal sonuçları olan ve sorumluluk isteyen kararlardır.
Kara Kutulu Algoritmalar
Öneri sistemleri çeşitli kararlar verir fakat bir kara kutu gibi çalışırlar. Çıktılarının gerekçesini anlamak mümkün olmayabilir. Bu, yapay öğrenmenin en büyük sorunu olarak gösterilse de aynı zamanda onun gücünün kaynağıdır. Çünkü sistemi insanlar tarafından ifade edilebilen nedenlerle sınırlamamış oluruz. Algoritmalar bizim anlamamızın olanaksız olduğu örüntülere ve düşüncelere erişebilirler. Kendimizi uzman sistemlerde yaptığımız gibi, makineleri insanların ifade edebileceği nedenlerle sınırlandırsaydık yapay zekada bugün yaşanan atılımlar gerçekleşemeyecekti.
Ama yapay öğrenme sistemlerinin atılımları, verilen kararlarda nedenlerin önemsiz olduğu anlamına gelir mi? Örneğin, bir sistemin bir iş başvurusunu olumlu bulup diğerini elemesinin nedenleri önemlidir. Bir kişinin diğerine tercih edilmesini haklı çıkaran nedenler nelerdir? Mevcut sistemde işe alımlar nepotizme, cinsiyetçiliğe veya ırkçılığa dayanıyorsa buna karşı mücadele edilir. Ama bir yapay öğrenme algoritmasının kararlarını neye göre değerlendirmek gerekir?
Son yıllarda, yapay öğrenme algoritmalarını açıklanabilir yapmak için çalışmalar var. Bazı başarılar elde edilmiş olsa da, belirli bir çıktıyı haklı çıkaran nedenleri bilmekten hâlâ çok uzağız. Bu nedenle Robbins (2023), nedenlerin önemliği olduğu durumlarda yapay öğrenme temelli öneri sistemlerini hiç kullanmamayı öneriyor.
Öneri Sistemlerinin Özerkliğe Etkisi
Yapay öğrenme temelli öneri sistemlerinin yapısal sınırlılıkları var. Fakat bu sistemler yaygın biçimde kullanılıyorlar. Eksikliklerini ve zayıflıklarını bir kenara bırakırsak bu sistemlerin kullanılmasının doğurduğu sonuçlar; insanların irade ve değerlerinin oluşumunu nasıl etkiledikleri üzerinde durulması gereken konulardır. Özerklik terimini, bireylerin hukuki ilişkilerini kendi iradelerine göre şekillendirme hakkı olarak tanımladığımızda öneri sistemlerinin hem bireysel özerkliği artıran hem de kısıtlayan yönleri olduğunu görüyoruz. Bir yandan öneri sistemleri, insanların hızlı karar vermesini kolaylaştırıyor ve zamanı kendi belirledikleri şekillerde kullanılabilme olanaklarını artırırken özerkliklerini de artırıyor. Fakat diğer yandan insanların seçimlerinin çeşitliliğini ve değişkenliğini belirli standartlara hapsederek özerkliklerine zarar veriyor. İlk durum öneri sistemlerinin yaygınlaşmasının önünü açarken son yıllarda öneri sistemlerinden kaynaklı sorunların daha belirgin olduğunu görüyoruz.
Bonicalzi, De Caro ve Giovanola (2023) öneri sistemlerinin özerkliğe etkisini üç başlık etrafında tartışıyor:
- Öneri sistemleriyle ilişkili manipülasyon ve aldatma tehdidi
- Öneri sistemlerinin kullanıcıların kişisel kimliğini yeniden şekillendirme gücü
- Öneri sistemlerinin kullanıcıların bilgisi ve eleştirel düşünmesi üzerindeki etkisi
Manipülasyon ve Aldatma
Öneri sistemleri basitçe ürün önermez. Kullanıcıların savunmalarını çeşitli şekillerde atlatarak onları ikna ve manipüle etmeye de çalışabilir. Hatta kandırır ve zorlar, böylece sonraki davranışlarını önceden belirlenmiş bir çıktıya doğru yönlendirir.
Öneri sistemleri kullanıcıları, onların açık sorgularına dayanması gerekmeyen önerilerle ikna edebilir. Fakat öneri sistemlerinin bu şekilde öneriler sunması kullanıcılarının özerkliğinin tehdit altında olduğu veya kullanıcıları manipüle edildiği anlamına gelmez. Tam tersine öneri sistemi, kullanıcıların sınırlı sayıda seçeneğe odaklanarak enerjilerini daha verimli harcamasını sağlayabilir.
Öneri sistemlerindeki temel sorun bu sistemlerin sadece önerilerde bulunmakla kalmayıp kullanıcıların zamanları veya bilişsel kaynakları yeterli olsaydı onaylamayacakları veya onayladıklarında pişman olacakları kararları vermeye ikna edebilmesidir. Özerkliğe yönelik tehditler, öneri sistemlerinin ortak ve hatta kişiye özgü bilişsel zayıflıkları istismar ederek gizli manipülasyon veya aldatma tekniklerini kullanmasıyla ortaya çıkar. Bazı tasarımsal tercihlerle kullanıcıların bilinçli seçimler yapmasını engelleyen yöntemlerden yararlanılır ve insanların neyi, nasıl yaptıkları üzerine düşünme yetileri alt edilir. Bunu sık sık bir sosyal medya platformunda saatler harcadığımızda veya ihtiyacımız olmayan bir şeyi satın aldığımızda deneyimleriz.
Kişisel Özelliklerin Yeniden Şekillendirilmesi
Bireysel ve sosyal kimliğimiz zaman içinde ve çoklu öğrenme deneyimleri yoluyla inşa edilir. Özellikle genç yaştaki kullanıcıların zaman ve bilişsel kaynakları, dikkatlerini aşırı derecede çekmek için özel olarak hazırlanmış içeriklerin sunulmasıyla tüketildiğinde sorunlar ortaya çıkabilir. Yukarıda belirttiğim gibi öneri sistemleri, kullanıcıların yaygın bilişsel eksikliklerinden yararlanır ve sistematik biçimde, onları kendi çıkarları yerine üçüncü tarafların çıkarlarını yansıtan seçeneklere doğru yönlendirir. İnsanların zihinsel enerjisinin emen içeriklere uzun süre maruz kalmak, insanları (özellikle de gençleri!) sağlıklı bir zihinsel ve sosyal yaşam için gereken zamandan ve bilişsel kaynaklardan mahrum bırakabilir. Bu nedenle, insanların bilişsel kaynaklarının tükenmesini önlemek, kişisel ve sosyal gelişimlerini desteklemek için, yalnızca kullanıcıların eğilimlerine (bias) değil, gerçek ihtiyaçlarına da yanıt verebilen algoritmalar kullanılmalıdır.
Bilgi ve Eleştirel Düşünme
Öneri sistemleri, insanların bilgi edinme ve eleştirel düşüncenin gelişimine zarar verebilir. İnsanın kendini rasyonel bir şekilde yönetme ve sosyal çevreyi yönlendirme yeteneği, özerkliğinin temelidir. Bu yeteneğini geliştirme ve ifade etme, büyük ölçüde bilgi edinme süreçleri aracılığıyla gerçekleşir. Takip ettiğimiz haberler veya edindiğimiz bilgilerin, başvurduğumuz çeşitli medya kuruluşları tarafından nasıl organize edildiği bu bilgi edinme süreçlerinde temel bir rol oynar. Bu süreçlerde yaşanan aksaklıklar, bilgiyi ve eleştirel düşünmeyi olumsuz etkiler.
Birinci olumsuzluk, çevrimiçi mecraların ve özellikle de sosyal medya platformlarının, geleneksel medyanın genellikle tabi olduğu kontrollerden kolayca kaçınmasından kaynaklanır. Sosyal medya platformları, yanıltıcı ya da tamamen yanlış içerik akışları sağlayabildikleri için yanlış bilgi, yalan haber ve yarım yamalak teorilerin yayılmasıyla ilişkilendirilmekte. Çevrimiçi mecralarda kullanılan öneri sistemleri, hedef kitle için özellikle cazip ve çekici olan davranışları teşvik ederek yalan haberlerin yayılmasını artırır. Pandemi döneminde olduğu gibi komplo teorileri uzmanların açıklamalarının önüne geçebilir.
İkincisi olumsuzluk ise benzer ve yinelenen önerilerin, insanların farklı içeriklere erişim fırsatını dolaylı olarak (örneğin bazı seçenekleri daha alt sıralarda göstererek) ortadan kaldırması. Böylece kapalı kullanıcı kümeleri içinde giderek standartlaşan ve homojen hale gelen davranışlar teşvik edilir. Araştırmalar, standartlaştırma ve homojenleştirmenin hem psikolojik hem de algoritmik ön yargılar tarafından büyütüldüğünü göstermekte. Psikolojik açıdan değerlendirildiğinde, kullanıcılar, algoritmalar tarafından önerilen haberlerin dış gerçekliğin sadık bir modelini oluşturduğunu düşünürler. Otomatikleştirilmiş çözümlerin, insan temelli çıktılardan daha doğru olduğunu varsayarlar. Algoritmik açıdan bakıldığında ise öneri sistemlerinin zaten popüler olan ögeleri giderek daha fazla tanıtma eğiliminde olduğunu görülür.
Kısaca öneri sistemleri bilgi ve eleştirel düşünceyi iki yolla etkiler. Bir yandan komplo teorileri ve yalan haberler gibi standart dışı içeriklerin yayılmasını teşvik eder, diğer yandan standartlaşmanın aşırılığı filtre balonları ve yankı odalarına hapsolma sorunlarına neden olur.
***
Öneri sistemleri, dijital dünyada devasa enformasyon akışı ile başa çıkmamıza yardımcı olan araçlar. Fakat bu sistemleri kullanırken sınırlılıklarının ve etkilerinin farkında olmak gerekiyor. Öncelikle platform sahiplerinin sahip olduğu güç, yalnız bazı olaylardan haberdar olmamızı belirlemiyor. Doğrudan bilgi edinme süreçlerimizi ve eleştirel düşünebilme yetimizi de etkiliyor.
Sistemlerin önerilerinin oluşumunda rol oynayan faktörleri bilmek ve öneri sistemlerinin şeffaflığını savunmak olumsuzlukları azaltabilir. Her şeye nedensel bir açıklama getirme şansımız olmayabilir. Üstelik her zaman buna gerek de yok. Ama nedenlerin önemli olduğu ve insanların yaşamının doğrudan etkilenebileceği durumlarda önerilerin arkasındaki mantık açıklanamıyorsa bu sistemleri hiç kullanmamak en iyisi olacaktır.
Kaynaklar
Bartmann, M. (2023). Reasoning with Recommender Systems? Practical Reasoning, Digital Nudging, and Autonomy. In Recommender Systems: Legal and Ethical Issues (pp. 129-145). Cham: Springer International Publishing.
Bonicalzi, S., De Caro, M., & Giovanola, B. (2023). Artificial Intelligence and Autonomy: On the Ethical Dimension of Recommender Systems. Topoi, 1-14.
Herlocker, J.L., J.A. Konstan, L.G. Terveen, and J.T. Riedl. (2004). Evaluating Collaborative Filtering Recommender Systems. ACM Transaction of Information Systems 22 (1): 5–53.
Robbins, S. (2023). Recommending Ourselves to Death: values in the age of algorithms. In Recommender Systems: Legal and Ethical Issues (pp. 147-161). Cham: Springer International Publishing.
İlk Yorumu Siz Yapın