"Enter"a basıp içeriğe geçin

Kategori: Yapay Zeka

Yerel Yönetimlerde Teknolojik Egemenlik

On yıl önce, eski bir NSA (National Security Agency – ABD Ulusal Güvenlik Ajansı) çalışanı olan Edward Snowden’ın sızdırdığı verilerden söz ediyorduk. Snowden’a göre NSA, yasaların izin verdiğinden çok daha fazlasını yapıyordu. Suçlu veya şüpheli olmasına bakmaksızın toplumun geneline ait verileri topluyor, filtreliyor ve analiz ediyordu. Snowden’ın ifşaatlarına göre ABD, bilişim şirketlerinden belirli kişilere ait verileri alabiliyordu. ABD’li yetkililer, bunun sadece kanunlar çerçevesinde ve mahkeme kararıyla gerçekleştiğini söylüyorlardı. Fakat NSA’nın bu şirketlerin sunucularına doğrudan erişebildiğini gösteren belgeler vardı.

Bu ifşaatlar karşısında bir çoğumuz huzur içinde sıradanlığımıza sığınmıştık. Sonuçta istihbarat örgütleri için sıradan insanlardık; telefonumuzu dinleseler veya e-postalarımız okusalar ne olurdu? Böylece son on yılda teknoloji şirketlerinin topladığı verinin miktarı ve kapsamı arttı. Gündelik hayatımızla ilgileri derinleşti. İlk başta verilerin toplanması sadece sosyal medya ve akıllı telefon kullanımına dayanıyordu. Hâlâ inisiyatifin bizde olduğuna inanıyorduk. İstersek sosyal medyadan çıkabilir veya mahremiyetimizi tehdit eden uygulamaları telefonumuzdan silebilirdik! Teknolojiyle kurduğumuz ilişkide aktif öznelerdik ya da en azından öyle düşünüyorduk. Ancak akıllı şehir girişimleri ve uygulamalarıyla beraber veri ilişkilerinin daha pasif bir bileşeni haline geliyoruz. Bu tip uygulamalar gözetim ve veri toplamayı daha geniş ve derin gerçekleştiriyorlar. San Diego’da olduğu gibi trafiği kontrol etmek üzere konuşlandırılan sokak lambaları bunun yerine vatandaşları gözetlemek için kullanılabiliyor. Şirketler, şehirleri algoritmalarla optimize etme vaadiyle şehirlerin veri akışlarını tamamen kontrol etmeye çalışıyorlar. Böylece hem şehrin altyapısı (elektrik, su, kanalizasyon, ulaşım vs) üzerindeki etkilerini artırıyorlar hem de üretilen verilerin gelecekteki kullanımını tekellerine alıyorlar. Akıllı şehirleri tartışırken kendimizi baştan sona “akıllı” teknolojilerle yapılandırılmış şehirlerle sınırlamamak gerekiyor. Bir yerden bir yere nasıl gidileceğini tarif eden veya toplu taşıma araçlarına binmek için kullandığımız uygulamaları da bu kapsamda değerlendirebiliriz.

Veri Sahipliği Demokrasisi ve Dijital Sosyalizm

Sosyolog Zeynep Tüfekçi, altı yıl önceki TED konuşmasında, bipolar kişilik bozukluğunda mani döneminin ön belirtilerinin klinik semptomlardan önce sosyal medya paylaşımlarından anlaşılabileceğinden bahsediyordu. Mani döneminde insanlar alışveriş yapmaya daha meyilli oluyorlar. Kuşkusuz bu bilgi, iş modelleri hedefli reklamcılık üzerine kurulu şirketler (özellikle Google ve Facebook) için önemlidir (https://www.youtube.com/watch?v=iFTWM7HV2UI).

İş modeli hedefli reklamcılık üzerine kurulu bir şirket için çalışan bir yazılım mühendisi, internet kullanıcısının mani döneminde olup olmadığını tahmin edebileceği bilgisine ulaştığında bunu görmezden gelebilir mi? Etik bilgisi ve hassasiyetleri yüksek olduğu için bu durumu görmezden geldiğini varsayalım. Fakat bu bilgi, belirli kişilere belirli reklamları göstermeyi hedefleyen bir şirket için çalışan daha hırslı bir mühendisin gözlerini kamaştırabilir. Ayrıca insanların mani dönemindeki zaaflarından yararlanmakla “normal” insanların başka zaaflarından yararlanmak arasında bir fark var mıdır? Bu gibi durumlarda inisiyatifi teknoloji şirketlerine veya onlar adına (!) çalışan mühendislere bırakabilir miyiz?

Yapay Zekâ ve Alternatif Politikalar

İlk küresel “Yapay Zekâ Güvenliği Zirvesi”, 1-2 Kasım tarihlerinde Londra’da gerçekleşti. Zirvenin düzenlendiği yer, Bletchley Park, bilgisayar bilimi açısından tarihi bir öneme sahipti. Bletchley Park, II. Dünya Savaşı boyunca Nazi Almanyası’nın Enigma ve Lorenz şifrelerinin çözümünde bir üs olarak kullanılmıştı. Ülkemizin de katıldığı bu ilk küresel YZ (Yapay Zekâ) zirvesinde 28 ülkeden temsilci vardı.

Açık Kaynak Yazılımdan Açık Yapay Zekâya

Richard Stallman’ın 40 yıl önce, 27 Eylül 1983’te, gönderdiği bir e-posta tarihin akışını değiştirdi. Stallman, e-posta’da GNU (Gnu’s Not Unix – GNU, Unix Değildir) adlı bir işletim sistemi geliştireceğini ve GNU’yu onu kullanabilen herkese bedava (free) olarak vereceğini yazıyordu. Daha sonra Stallman niyetini özensiz bir şekilde ifade ettiğini belirtecekti:

Yapay Zekâ ve Riskler

Geçen ayki yazıda FLI’nın (Yaşamın Geleceği Enstitüsü – Future of Life Institute), 22 Mart’ta yayımladığı “Dev Yapay Zeka Deneylerini Duraklatın” başlıklı açık mektubundan bahsetmiştim. FLI, güçlü YZ (yapay zekâ) sistemlerinin geliştirilmesine devam etmeden önce risklerin yönetilebilirliğinden emin olunması gerektiğini savunuyordu. 30 Mayıs’ta da CAIS’in (Center for AI Safety – Yapay Zeka Güvenliği Merkezi) web sitesinde dünyanın önde gelen YZ araştırmacılarının yanında başka disiplinlerden akademisyenlerin ve Microsoft, Google, OpenAI gibi şirketlerinin yöneticilerinin imzaladığı kısa bir bildiri yayımlandı. Bir tartışma başlatmayı hedefleyen bildiride şöyle yazıyordu (https://www.safe.ai/statement-on-ai-risk):

Yapay zekâ kaynaklı yok olma riskinin azaltılması, salgın hastalıklar ve nükleer savaş gibi diğer toplumsal ölçekli risklerle birlikte küresel bir öncelik olmalıdır.

Yapay Zekâ ve İş Yerleri

Son iki yazıda YZ (yapay zekâ) alanında çalışan akademisyenlerin ve iş insanlarının YZ hakkındaki endişelerinden bahsetmiştim. FLI (Yaşamın Geleceği Enstitüsü – Future of Life Institute), dev YZ deneylerini duraklatma çağrısı yapmış ve CAIS (Center for AI Safety – Yapay Zekâ Güvenliği Merkezi) de YZ kaynaklı yok olma riskinin salgın hastalıklar ve nükleer savaş gibi diğer toplumsal ölçekli risklerle birlikte küresel bir öncelik olması gerektiğini savunan bir bildiri yayımlamıştı.

Yapay Zeka Etiği ile Göz Boyama

Facebook/Cambridge Analytica skandalının ardından teknoloji şirketlerinin iş modelleri mercek altına alındı ve faaliyetleri sorgulanmaya başlandı. Google’ın insansız hava aracı saldırılarını iyileştirebilecek bir Pentagon programına katılması şirket çalışanları tarafından protesto edildi. Diğer yandan YZ’nin (yapay zekâ) gündelik hayattaki kullanımından kaynaklı (otomatik karar sistemlerinin kararları, mahremiyet, yüz tanıma sistemleri vb) sorunlar da giderek kendini gösteriyordu. Bu koşullarda, şirketlerin faaliyetlerinin düzenlenmesi gerektiği düşüncesi kamuoyunda ve siyasetçiler arasında yaygınlaşırken YZ etiği şirketler için hem dışarıdan düzenlemelere karşı çıkmanın hem de şirket dışında ve içinde sarsılan imajlarını toparlamanın bir aracı haline geldi. Veri ve bundan sağlanan YZ’ye dayalı kapitalizminin ortaya çıkardığı sorunların bilgisayar bilimcileri ve mühendislerinin etik davranışlarının geliştirilmesine daha fazla odaklanılmasıyla giderilebileceği iddia edildi. Şirketler, sorumlu YZ, güvenilir YZ, sosyal açıdan faydalı YZ, demokratik YZ, insan merkezli YZ vb terimler ortaya attılar. Daha sonra hükümetler, uluslararası örgütler ve sivil toplum kuruluşları YZ etiği furyasına katıldılar.

Derin Sahte: Gördüğüne İnanma

İnternetin yaygınlaşmasıyla beraber ana akım medyada yer almayan gelişmelerden haberdar olmaya başladık. Daha önce ekonomik ve/veya siyasi nedenlerle sınırlı bir kitleye ulaşabilen alternatif medya artık yeni okuyucular edinebilirdi. Basılı gazete ve dergiler, web’den de haber ve makale yayımlamaya başladılar. Ayrıca sadece web’de var olan haber siteleri de vardı. Ardından web2 rüzgarı esmeye başladı. Okuyucular, web sitelerinde yer alan içerikler hakkındaki görüşlerini yazabiliyor ve beğendiği içerikleri arkadaşlarıyla paylaşabiliyordu. Sosyal medya ve akıllı telefonlarla okuyucuların üreticiliği daha da arttı. Kimi zaman alternatif medya sitelerine bile gerek kalmadı. Doğru zamanda, doğru yerde olan sıradan insanlar, akıllı telefonlarıyla çektikleri fotoğrafları kolayca sosyal ağlarda paylaşıp yaymaya başladılar. Paylaşılan bu içerikler yalnız sosyal medyada kalmadı. Alternatif medya ve hatta ana akım medya, söz konusu paylaşımlardan yararlanmaya başladı.

Yapay Zekânın Politikliği

OpenAI, ChatGPT’den birkaç ay sonra merakla beklenen GPT-4’ü çıkardı. OpenAI, beş yılda önemli bir yol katetti. GPT (Generative Pre-trained Transformer – Üretken Ön İşlemeli Dönüştürücü) ilk olarak 11 Haziran 2018’de yayımlanan “Üretken Ön Eğitimle Dil Anlayışını Geliştirme” başlıklı makalede tanıtılmıştı. O zamana kadar en iyi sinirsel NLP (Natural Language Processing – Doğal Dil İşleme) modelleri öncelikle büyük miktarlarda etiketlenmiş verilerden denetimli öğrenmeyi kullanıyordu. Bu yaklaşım maliyetli olduğu gibi özellikle açıklaması yeterli olmayan veri setlerinde sınırlı bir performans gösteriyordu. GPT’nin “yarı denetimli” yaklaşımı ise iki aşama içeriyordu. Denetimsiz üretken “ön işleme” aşamasında başlangıç parametrelerini ayarlamak için bir dil modelleme hedefi kullanılıyor. İkinci aşamada ise bir denetimli ayrıştırıcı, parametreleri hedeflenen göreve uyarlayarak ince ayar yapıyor. Kamunun kullanımına açılmayan GPT-1, 120 milyon parametreye sahipti. Modelin eğitiminde çeşitli türlerde 7000 yayınlanmamış kitaptan elde edilen 4,5 GB metin kullanılmıştı. 14 Şubat 2019’da çıkarılan GPT-2 ise 1,5 milyar parametreye sahipti ve eğitiminde Reddit’te oylanan 45 milyon web sayfasından, 40 GB metin ve 8 milyon belgeden yararlanılmıştı. 11 Haziran 2020’de çıkarılan GPT-3’te parametre sayısı 175 milyara ulaştı, eğitiminde kullanılan metin miktarı 570 GB oldu (https://en.wikipedia.org/wiki/Generative_pre-trained_transformer).

Yapay Zekâ ve İnsan Hakları

Birçok insan YZ’den (yapay zekâ) korkuyor. Bir gün insansı robotların tüm insanlığı yok edebileceğini düşünüyorlar. Olabilir; ama şu anda bu korkunun kendisi Terminatör gibi insansı robotlardan çok daha tehlikeli. Çünkü gerçekte var olan sorunları fark edebilmemizi ve bunlara karşı çözümler geliştirebilmemizi engelliyor. YZ’yi teknik olarak farklı başlıklar altında ele alabiliriz: dar yapay zekâ, yapay genel zekâ, yapay süper zekâ; sembolik yapay zekâ, yapay öğrenme, derin öğrenme vb. Buna karşın, Dyer-Witheford, Kjøsen ve Steinhoff’un (2022) geçmişteki sosyalizm tartışmalarına atıfla, YZ hakkındaki dehşetli korkuları ve beklentileri bir yana bırakarak, bu teknolojilerin “deneysel ve eşitsiz benimsendiği bir aşamayı” belirtmek amacıyla kullandığı “reel (gerçekte var olan) YZ kapitalizmi ” adlandırmasının daha doğru bir yaklaşım olduğunu düşünüyorum. Dyer-Witheford vd’nin (2022) belirttiği gibi YZ kapitalizmi duraklayabilir, sönebilir veya reel sosyalizm gibi patlayabilir. YZ ile donatılmış bir kapitalizmin gideceği yönler oldukça belirsiz. Şimdiki kapitalizm, artı değer üretiminin devam ettiği ama bir çok yönden eskisinden farklı bir sisteme evrilebilir. Ya da kendimizi tamamen farklı bir toplumsal oluşum içinde bulabiliriz. Gidişatın insanlık için iyi mi yoksa kötü mü olacağını şimdilik bilemeyiz. Ama YZ’nin bu süreçte oynayacağı rol, gerçekte (!) var olan sorunlara karşı vereceğimiz mücadelelere bağlı.