"Enter"a basıp içeriğe geçin

YARIMADA

Yapay Zeka: Düşler, Gerçekler ve Sonuçlar

Mart 2018’de, Tesla Model X kullanan Apple mühendisi Walter (Wei Lun) Huang, aracının otobanda yolu bölen bariyere çarpması sonucunda hayatını kaybetmişti. Kaza sırasında Tesla’nın otomatik pilotu devredeydi. Elon Musk, kaza sonrasında yazdığı bir blog yazısında sürücünün kaza öncesinde defalarca uyarıldığını iddia etti. Musk’a göre bu uyarılar kazadan altı saniye önce verilmiş ve şoförden direksiyon başına geçmesi istenmişti. Dolayısıyla suçlu Tesla değil, aracı gerektiği gibi kullanamayan ve yola dikkat etmeyen Huang’dı.

Çin, Yapay Zekayı Nasıl Düzenliyor?

Teknoloji alanında ABD ve Çin arasında kıyasıya bir mücadele yaşanıyor. Hem ABD hem de Çin, kendi teknolojik şirketleri ve uluslararası yatırımları aracılığıyla teknolojiyi ve teknolojik standartları şekillendirmeye çalışıyor. Ama ne yazık ki ülkemizde, Çin’deki gelişmeler ABD ve Avrupa’dakiler kadar ses getirmiyor. Zihnimizde oluşturduğumuz bir Çin resmi var. Çin, Rusya, Kuzey Kore ve İran bu resimde yan yana duruyor. Bu şer ittifakı (!) bizim özgür (?) internetimizin yerine sansüre dayalı kendi internetlerini dayatmaya çalışıyor ve diğer hükümetlere kötü örnek oluyor.

Öneri Sistemleri: Sınırlılıklar ve Sorunlar

Nasreddin Hoca, evinin damında çalışırken aşağıya düşer. Komşuları başına toplanır ve hocayı soru yağmuruna tutarlar: ‘Hocam, nasıl düştün, neden dikkat etmedin, kırık var mı…’ Hoca, sorulardan bunalır ve komşularına aralarında damdan düşen biri olup olmadığını sorar. ‘Yok’ yanıtını alınca da ‘Öyleyse boşuna konuşmayın, benim halimden ancak damdan düşen anlar’, der.

Aslında gündelik hayatımızda çoğu zaman Nasreddin Hoca’yı takip ederiz. Sadece daha iyi anlaşılmak ve dertleşmek için değil daha önce bizimle benzer sorunları yaşamış olanların deneyimlerine ve önerilerine daha çok önem verdiğimiz için yaparız bunu. Öneri sistemleri ise bu kendiliğinden eğilimimizi dijital dünyaya taşırlar. Artık benzer deneyimleri yaşamış kişileri kendimiz aramayız. Öneri sistemleri bunu otomatik olarak sağlarlar. Çevrimiçi dünyada dolaşırken sürekli önerilerle karşılaşırız. Video yayını yapan platformlar izleyeceğimiz videoları önerir; müzik yayını yapan platformlar hoşumuza gidecek müzikler önerir; sosyal medya platformları takip edebileceğimiz kişileri önerir ve beğenebileceğimiz içerikleri üst sıralara taşır; alışveriş siteleri satın alabileceğimiz ürünleri gösterir… Öneri sistemleri, dijital dünyanın olmazsa olmazıdır. Bizi gerçekten aradığımız şeylere yönlendirmeyi vadederler ve etkili önerilerde bulunarak, enformasyon denizinde boğulmamızı engellerler.

Yerel Yönetimlerde Teknolojik Egemenlik

On yıl önce, eski bir NSA (National Security Agency – ABD Ulusal Güvenlik Ajansı) çalışanı olan Edward Snowden’ın sızdırdığı verilerden söz ediyorduk. Snowden’a göre NSA, yasaların izin verdiğinden çok daha fazlasını yapıyordu. Suçlu veya şüpheli olmasına bakmaksızın toplumun geneline ait verileri topluyor, filtreliyor ve analiz ediyordu. Snowden’ın ifşaatlarına göre ABD, bilişim şirketlerinden belirli kişilere ait verileri alabiliyordu. ABD’li yetkililer, bunun sadece kanunlar çerçevesinde ve mahkeme kararıyla gerçekleştiğini söylüyorlardı. Fakat NSA’nın bu şirketlerin sunucularına doğrudan erişebildiğini gösteren belgeler vardı.

Bu ifşaatlar karşısında bir çoğumuz huzur içinde sıradanlığımıza sığınmıştık. Sonuçta istihbarat örgütleri için sıradan insanlardık; telefonumuzu dinleseler veya e-postalarımız okusalar ne olurdu? Böylece son on yılda teknoloji şirketlerinin topladığı verinin miktarı ve kapsamı arttı. Gündelik hayatımızla ilgileri derinleşti. İlk başta verilerin toplanması sadece sosyal medya ve akıllı telefon kullanımına dayanıyordu. Hâlâ inisiyatifin bizde olduğuna inanıyorduk. İstersek sosyal medyadan çıkabilir veya mahremiyetimizi tehdit eden uygulamaları telefonumuzdan silebilirdik! Teknolojiyle kurduğumuz ilişkide aktif öznelerdik ya da en azından öyle düşünüyorduk. Ancak akıllı şehir girişimleri ve uygulamalarıyla beraber veri ilişkilerinin daha pasif bir bileşeni haline geliyoruz. Bu tip uygulamalar gözetim ve veri toplamayı daha geniş ve derin gerçekleştiriyorlar. San Diego’da olduğu gibi trafiği kontrol etmek üzere konuşlandırılan sokak lambaları bunun yerine vatandaşları gözetlemek için kullanılabiliyor. Şirketler, şehirleri algoritmalarla optimize etme vaadiyle şehirlerin veri akışlarını tamamen kontrol etmeye çalışıyorlar. Böylece hem şehrin altyapısı (elektrik, su, kanalizasyon, ulaşım vs) üzerindeki etkilerini artırıyorlar hem de üretilen verilerin gelecekteki kullanımını tekellerine alıyorlar. Akıllı şehirleri tartışırken kendimizi baştan sona “akıllı” teknolojilerle yapılandırılmış şehirlerle sınırlamamak gerekiyor. Bir yerden bir yere nasıl gidileceğini tarif eden veya toplu taşıma araçlarına binmek için kullandığımız uygulamaları da bu kapsamda değerlendirebiliriz.

Veri Sahipliği Demokrasisi ve Dijital Sosyalizm

Sosyolog Zeynep Tüfekçi, altı yıl önceki TED konuşmasında, bipolar kişilik bozukluğunda mani döneminin ön belirtilerinin klinik semptomlardan önce sosyal medya paylaşımlarından anlaşılabileceğinden bahsediyordu. Mani döneminde insanlar alışveriş yapmaya daha meyilli oluyorlar. Kuşkusuz bu bilgi, iş modelleri hedefli reklamcılık üzerine kurulu şirketler (özellikle Google ve Facebook) için önemlidir (https://www.youtube.com/watch?v=iFTWM7HV2UI).

İş modeli hedefli reklamcılık üzerine kurulu bir şirket için çalışan bir yazılım mühendisi, internet kullanıcısının mani döneminde olup olmadığını tahmin edebileceği bilgisine ulaştığında bunu görmezden gelebilir mi? Etik bilgisi ve hassasiyetleri yüksek olduğu için bu durumu görmezden geldiğini varsayalım. Fakat bu bilgi, belirli kişilere belirli reklamları göstermeyi hedefleyen bir şirket için çalışan daha hırslı bir mühendisin gözlerini kamaştırabilir. Ayrıca insanların mani dönemindeki zaaflarından yararlanmakla “normal” insanların başka zaaflarından yararlanmak arasında bir fark var mıdır? Bu gibi durumlarda inisiyatifi teknoloji şirketlerine veya onlar adına (!) çalışan mühendislere bırakabilir miyiz?

Yapay Zekâ ve Alternatif Politikalar

İlk küresel “Yapay Zekâ Güvenliği Zirvesi”, 1-2 Kasım tarihlerinde Londra’da gerçekleşti. Zirvenin düzenlendiği yer, Bletchley Park, bilgisayar bilimi açısından tarihi bir öneme sahipti. Bletchley Park, II. Dünya Savaşı boyunca Nazi Almanyası’nın Enigma ve Lorenz şifrelerinin çözümünde bir üs olarak kullanılmıştı. Ülkemizin de katıldığı bu ilk küresel YZ (Yapay Zekâ) zirvesinde 28 ülkeden temsilci vardı.

Açık Kaynak Yazılımdan Açık Yapay Zekâya

Richard Stallman’ın 40 yıl önce, 27 Eylül 1983’te, gönderdiği bir e-posta tarihin akışını değiştirdi. Stallman, e-posta’da GNU (Gnu’s Not Unix – GNU, Unix Değildir) adlı bir işletim sistemi geliştireceğini ve GNU’yu onu kullanabilen herkese bedava (free) olarak vereceğini yazıyordu. Daha sonra Stallman niyetini özensiz bir şekilde ifade ettiğini belirtecekti:

Yapay Zekâ ve Riskler

Geçen ayki yazıda FLI’nın (Yaşamın Geleceği Enstitüsü – Future of Life Institute), 22 Mart’ta yayımladığı “Dev Yapay Zeka Deneylerini Duraklatın” başlıklı açık mektubundan bahsetmiştim. FLI, güçlü YZ (yapay zekâ) sistemlerinin geliştirilmesine devam etmeden önce risklerin yönetilebilirliğinden emin olunması gerektiğini savunuyordu. 30 Mayıs’ta da CAIS’in (Center for AI Safety – Yapay Zeka Güvenliği Merkezi) web sitesinde dünyanın önde gelen YZ araştırmacılarının yanında başka disiplinlerden akademisyenlerin ve Microsoft, Google, OpenAI gibi şirketlerinin yöneticilerinin imzaladığı kısa bir bildiri yayımlandı. Bir tartışma başlatmayı hedefleyen bildiride şöyle yazıyordu (https://www.safe.ai/statement-on-ai-risk):

Yapay zekâ kaynaklı yok olma riskinin azaltılması, salgın hastalıklar ve nükleer savaş gibi diğer toplumsal ölçekli risklerle birlikte küresel bir öncelik olmalıdır.

Elon Musk’ın WeChat Rüyası

Elon Musk, Twitter’la oynamaya devam ediyor. Önce Twitter’a yeni kurallar getirmeye çalıştı, sonra gelen tepkilere göre koyduğu kuralları yeniden düzenledi. Paralı üyeliği teşvik edici düzenlemeler yaptı. Reklam gelirinin bir kısmını paralı üyelerle paylaştı. Musk, sallapati adımlar atıyormuş gibi görünse de aslında belirli bir vizyon doğrultusunda ilerlemeye ve Twitter’dan bambaşka bir uygulama çıkarmaya çalışıyor. Geçen yılki açıklamasında bunun ipucunu vermiş, Twitter alımının her şeyin uygulaması X’i yaratmayı hızlandıracağını belirtmişti.

Yapay Zekâ ve İş Yerleri

Son iki yazıda YZ (yapay zekâ) alanında çalışan akademisyenlerin ve iş insanlarının YZ hakkındaki endişelerinden bahsetmiştim. FLI (Yaşamın Geleceği Enstitüsü – Future of Life Institute), dev YZ deneylerini duraklatma çağrısı yapmış ve CAIS (Center for AI Safety – Yapay Zekâ Güvenliği Merkezi) de YZ kaynaklı yok olma riskinin salgın hastalıklar ve nükleer savaş gibi diğer toplumsal ölçekli risklerle birlikte küresel bir öncelik olması gerektiğini savunan bir bildiri yayımlamıştı.