Mart 2018’de, Tesla Model X kullanan Apple mühendisi Walter (Wei Lun) Huang, aracının otobanda yolu bölen bariyere çarpması sonucunda hayatını kaybetmişti. Kaza sırasında Tesla’nın otomatik pilotu devredeydi. Elon Musk, kaza sonrasında yazdığı bir blog yazısında sürücünün kaza öncesinde defalarca uyarıldığını iddia etti. Musk’a göre bu uyarılar kazadan altı saniye önce verilmiş ve şoförden direksiyon başına geçmesi istenmişti. Dolayısıyla suçlu Tesla değil, aracı gerektiği gibi kullanamayan ve yola dikkat etmeyen Huang’dı.
Kategori: Yapay Zeka
Teknoloji alanında ABD ve Çin arasında kıyasıya bir mücadele yaşanıyor. Hem ABD hem de Çin, kendi teknolojik şirketleri ve uluslararası yatırımları aracılığıyla teknolojiyi ve teknolojik standartları şekillendirmeye çalışıyor. Ama ne yazık ki ülkemizde, Çin’deki gelişmeler ABD ve Avrupa’dakiler kadar ses getirmiyor. Zihnimizde oluşturduğumuz bir Çin resmi var. Çin, Rusya, Kuzey Kore ve İran bu resimde yan yana duruyor. Bu şer ittifakı (!) bizim özgür (?) internetimizin yerine sansüre dayalı kendi internetlerini dayatmaya çalışıyor ve diğer hükümetlere kötü örnek oluyor.
Nasreddin Hoca, evinin damında çalışırken aşağıya düşer. Komşuları başına toplanır ve hocayı soru yağmuruna tutarlar: ‘Hocam, nasıl düştün, neden dikkat etmedin, kırık var mı…’ Hoca, sorulardan bunalır ve komşularına aralarında damdan düşen biri olup olmadığını sorar. ‘Yok’ yanıtını alınca da ‘Öyleyse boşuna konuşmayın, benim halimden ancak damdan düşen anlar’, der.
Aslında gündelik hayatımızda çoğu zaman Nasreddin Hoca’yı takip ederiz. Sadece daha iyi anlaşılmak ve dertleşmek için değil daha önce bizimle benzer sorunları yaşamış olanların deneyimlerine ve önerilerine daha çok önem verdiğimiz için yaparız bunu. Öneri sistemleri ise bu kendiliğinden eğilimimizi dijital dünyaya taşırlar. Artık benzer deneyimleri yaşamış kişileri kendimiz aramayız. Öneri sistemleri bunu otomatik olarak sağlarlar. Çevrimiçi dünyada dolaşırken sürekli önerilerle karşılaşırız. Video yayını yapan platformlar izleyeceğimiz videoları önerir; müzik yayını yapan platformlar hoşumuza gidecek müzikler önerir; sosyal medya platformları takip edebileceğimiz kişileri önerir ve beğenebileceğimiz içerikleri üst sıralara taşır; alışveriş siteleri satın alabileceğimiz ürünleri gösterir… Öneri sistemleri, dijital dünyanın olmazsa olmazıdır. Bizi gerçekten aradığımız şeylere yönlendirmeyi vadederler ve etkili önerilerde bulunarak, enformasyon denizinde boğulmamızı engellerler.
Sosyolog Zeynep Tüfekçi, altı yıl önceki TED konuşmasında, bipolar kişilik bozukluğunda mani döneminin ön belirtilerinin klinik semptomlardan önce sosyal medya paylaşımlarından anlaşılabileceğinden bahsediyordu. Mani döneminde insanlar alışveriş yapmaya daha meyilli oluyorlar. Kuşkusuz bu bilgi, iş modelleri hedefli reklamcılık üzerine kurulu şirketler (özellikle Google ve Facebook) için önemlidir (https://www.youtube.com/watch?v=iFTWM7HV2UI).
İş modeli hedefli reklamcılık üzerine kurulu bir şirket için çalışan bir yazılım mühendisi, internet kullanıcısının mani döneminde olup olmadığını tahmin edebileceği bilgisine ulaştığında bunu görmezden gelebilir mi? Etik bilgisi ve hassasiyetleri yüksek olduğu için bu durumu görmezden geldiğini varsayalım. Fakat bu bilgi, belirli kişilere belirli reklamları göstermeyi hedefleyen bir şirket için çalışan daha hırslı bir mühendisin gözlerini kamaştırabilir. Ayrıca insanların mani dönemindeki zaaflarından yararlanmakla “normal” insanların başka zaaflarından yararlanmak arasında bir fark var mıdır? Bu gibi durumlarda inisiyatifi teknoloji şirketlerine veya onlar adına (!) çalışan mühendislere bırakabilir miyiz?
İlk küresel “Yapay Zekâ Güvenliği Zirvesi”, 1-2 Kasım tarihlerinde Londra’da gerçekleşti. Zirvenin düzenlendiği yer, Bletchley Park, bilgisayar bilimi açısından tarihi bir öneme sahipti. Bletchley Park, II. Dünya Savaşı boyunca Nazi Almanyası’nın Enigma ve Lorenz şifrelerinin çözümünde bir üs olarak kullanılmıştı. Ülkemizin de katıldığı bu ilk küresel YZ (Yapay Zekâ) zirvesinde 28 ülkeden temsilci vardı.
Richard Stallman’ın 40 yıl önce, 27 Eylül 1983’te, gönderdiği bir e-posta tarihin akışını değiştirdi. Stallman, e-posta’da GNU (Gnu’s Not Unix – GNU, Unix Değildir) adlı bir işletim sistemi geliştireceğini ve GNU’yu onu kullanabilen herkese bedava (free) olarak vereceğini yazıyordu. Daha sonra Stallman niyetini özensiz bir şekilde ifade ettiğini belirtecekti:
Geçen ayki yazıda FLI’nın (Yaşamın Geleceği Enstitüsü – Future of Life Institute), 22 Mart’ta yayımladığı “Dev Yapay Zeka Deneylerini Duraklatın” başlıklı açık mektubundan bahsetmiştim. FLI, güçlü YZ (yapay zekâ) sistemlerinin geliştirilmesine devam etmeden önce risklerin yönetilebilirliğinden emin olunması gerektiğini savunuyordu. 30 Mayıs’ta da CAIS’in (Center for AI Safety – Yapay Zeka Güvenliği Merkezi) web sitesinde dünyanın önde gelen YZ araştırmacılarının yanında başka disiplinlerden akademisyenlerin ve Microsoft, Google, OpenAI gibi şirketlerinin yöneticilerinin imzaladığı kısa bir bildiri yayımlandı. Bir tartışma başlatmayı hedefleyen bildiride şöyle yazıyordu (https://www.safe.ai/statement-on-ai-risk):
Yapay zekâ kaynaklı yok olma riskinin azaltılması, salgın hastalıklar ve nükleer savaş gibi diğer toplumsal ölçekli risklerle birlikte küresel bir öncelik olmalıdır.
Son iki yazıda YZ (yapay zekâ) alanında çalışan akademisyenlerin ve iş insanlarının YZ hakkındaki endişelerinden bahsetmiştim. FLI (Yaşamın Geleceği Enstitüsü – Future of Life Institute), dev YZ deneylerini duraklatma çağrısı yapmış ve CAIS (Center for AI Safety – Yapay Zekâ Güvenliği Merkezi) de YZ kaynaklı yok olma riskinin salgın hastalıklar ve nükleer savaş gibi diğer toplumsal ölçekli risklerle birlikte küresel bir öncelik olması gerektiğini savunan bir bildiri yayımlamıştı.
Facebook/Cambridge Analytica skandalının ardından teknoloji şirketlerinin iş modelleri mercek altına alındı ve faaliyetleri sorgulanmaya başlandı. Google’ın insansız hava aracı saldırılarını iyileştirebilecek bir Pentagon programına katılması şirket çalışanları tarafından protesto edildi. Diğer yandan YZ’nin (yapay zekâ) gündelik hayattaki kullanımından kaynaklı (otomatik karar sistemlerinin kararları, mahremiyet, yüz tanıma sistemleri vb) sorunlar da giderek kendini gösteriyordu. Bu koşullarda, şirketlerin faaliyetlerinin düzenlenmesi gerektiği düşüncesi kamuoyunda ve siyasetçiler arasında yaygınlaşırken YZ etiği şirketler için hem dışarıdan düzenlemelere karşı çıkmanın hem de şirket dışında ve içinde sarsılan imajlarını toparlamanın bir aracı haline geldi. Veri ve bundan sağlanan YZ’ye dayalı kapitalizminin ortaya çıkardığı sorunların bilgisayar bilimcileri ve mühendislerinin etik davranışlarının geliştirilmesine daha fazla odaklanılmasıyla giderilebileceği iddia edildi. Şirketler, sorumlu YZ, güvenilir YZ, sosyal açıdan faydalı YZ, demokratik YZ, insan merkezli YZ vb terimler ortaya attılar. Daha sonra hükümetler, uluslararası örgütler ve sivil toplum kuruluşları YZ etiği furyasına katıldılar.