Mart 2018’de Tesla Model X kullanan Apple mühendisi Walter Huang, aracının otoyolda yolu ayıran bariyere çarpması sonucu yaşamını yitirdi. Kaza sırasında Tesla’nın sürüş destek sistemi devredeydi. Tesla yönetimi, kazada sürücünün davranışlarının belirleyici olduğunu savunan açıklamalar yaptı. Ancak ABD Ulusal Ulaşım Güvenliği Kurulu’nun (NTSB) yürüttüğü soruşturmaya göre kazada hem Tesla’nın sürüş destek sistemindeki eksiklikler hem de Huang’ın sürüş sırasındaki davranışları rol oynadı. Kurul, sistemin aracı şerit içinde tutamadığını ve çarpışmayı önleme yazılımının otoyol bariyerini algılayamadığını belirtmişti. Raporda ayrıca Huang’ın dikkatinin muhtemelen dağılmış olduğu ifade ediliyordu (Chokshi, 2020).

Haziran ayında Teksas’ta meydana gelen bir başka kazada ise Michael Butler’ın kullandığı Tesla Model 3 kontrolden çıkarak yüksek hızla 76 yaşındaki Martha Avila’nın evine girdi. Aracın eve girdiği sırada ön odada bulunan Avila ağır yaralandı. Helikopterle hastaneye kaldırıldı ancak tüm müdahalelere rağmen yaşamını yitirdi (Petri, 2026).

Aracı kullanan Butler hakkında taksirle adam öldürme suçlamasıyla dava açıldı. Tesla’nın Yapay Zekâ Yazılımlarından Sorumlu Başkan Yardımcısı Ashok Elluswamy ise X üzerinden yaptığı açıklamada (Elluswamy, 2026), kazanın sorumluluğunu yine sürücüye yükledi. Elluswamy, sürücünün gaz pedalına basarak sürüş destek sistemini manuel olarak devre dışı bıraktığını, ardından hızlanmaya devam ederek aracı saatte 73 mil (yaklaşık 117,5 km) hıza çıkardığını belirtti.

Tesla’nın gelişmiş sürüş destek sistemi, yaygın olarak kullanılmasına rağmen hâlâ ciddi güvenlik tartışmalarının odağında yer alıyor ve çok sayıda kazayla ilişkilendiriliyor. Tesla yöneticileri medyada yaptıkları açıklamalarda araçlarının sürüş destek sistemini yere göre sığdıramasalar da araçlarının kullanım kılavuzlarında daha temkinli davranıyorlar. Kullanım kılavuzlarında, sürücülerden ellerini direksiyonda tutmalarını ve sistemin yetersiz kaldığı durumlarda kontrolü devralmaya hazır olmalarını istiyor.

Ancak federal düzenleyiciler, kullanım kılavuzlarında yer alan bu uyarıları yeterli bulmuyor. Çünkü bazı sürücüler, sistemin insan müdahalesine ihtiyaç duymadan güvenli biçimde çalışabileceğine inanabiliyor. Bu aşırı güven, sürücünün zamanla dikkatinin azalmasına ve kontrolü alması gereken kritik anlarda tepki süresinin uzamasına yol açabiliyor. Bu nedenle düzenleyici kurumlar, Tesla’dan sürücülerin dikkatini koruyacak ek önlemler geliştirmesini istedi. Bu talep üzerine şirket, 2023 yılı sonunda sürüş destek sistemi yazılımında bir geri çağırma kapsamında güncellemeler yapmak durumunda kaldı (Ewing vd., 2023).

Otomatik sürüş özelliklerine sahip araçların karıştığı kazaların ardından tartışma çoğu zaman sürücünün mü yoksa üreticinin mi sorumlu olduğu sorusuna indirgeniyor. Oysa bu ikili yaklaşım, yapay zekâ destekli sistemlerin geliştirilmesi ve kullanılması sürecindeki karmaşık ilişkileri tam olarak açıklamayabilir.

Böyle bir kazanın ortaya çıkışında yalnızca sürücü (S1) veya otomobil üreticisi rol oynamaz. Farklı aşamalarda yer alan çok sayıda aktör birbirleriyle etkileşim hâlindedir. Bir araç, X otomobil üreticisi tarafından üretilmiş olabilir; araçta kullanılan dijital sistemler Y şirketi tarafından geliştirilirken, yapay öğrenme bileşenleri başka bir şirketin ürünü olabilir. Sistem; S1 dışındaki S2, S3…Sn sürücülerinin sürüş deneyimlerinden elde edilen verilerle de eğitilmiş olabilir. Araç aynı zamanda standartları belirleyen kurumların kararlarına, düzenleyici kuruluşların denetimine ve sürücülerin eğitim süreçlerine bağlı olarak trafiğe çıkar (Santoni de Sio ve Mecacci, 2021).

Bu nedenle, yapay zekâ destekli sistemlerin neden olduğu zararlar söz konusu olduğunda sorumluluğu tek bir kişi ya da kuruma atfetmek her zaman kolay değildir. Üstelik günümüz yapay zekâ sistemlerinin öğrenme kapasitesi, karmaşıklığı ve kısmi özerkliği, bu aktörler arasındaki neden-sonuç ilişkilerini daha da belirsiz hâle getirebilir.

Bununla birlikte sorun yalnızca otomatik sürüş özelliklerine sahip araçların kazaları veya katil robotlar gibi görece uç örneklerle sınırlı değildir. Yapay öğrenme sistemlerinin gündelik yaşamın farklı alanlarında yaygınlaşmasıyla birlikte, bu sistemlerin neden olduğu olumsuz sonuçlarda sorumluluğun kimde olduğu sorusu da giderek daha fazla önem kazanmaktadır. Aşağıdaki üç örnek, bu sorunun gündelik yaşamda nasıl ortaya çıktığını göstermektedir.

Gündelik Yaşamda Yapay Zekâ ve Sorumluluk Tartışmaları

Yapay Zekâ Platformlarının İşe Alımlardaki Sorumluluğu

Derek Mobley’in 21 Şubat 2023’te Workday (https://www.workday.com/) şirketine karşı açtığı dava, yapay zekâ destekli işe alım sistemlerinin ayrımcı sonuçlar üretmesi durumunda sorumluluğun kime ait olacağı sorusunu gündeme getiren dikkat çekici davalardan biridir.

Afrikalı Amerikalı, 40 yaşın üzerinde ve bazı sağlık sorunları bulunan ABD’li bir aday olan Mobley, yüzün üzerinde işe başvurmuş ve bu başvuruların tamamından olumsuz yanıt almıştı. Yapay öğrenme sistemleri örüntüleri tanımada oldukça başarılıdır. Bu kez reddedilme süreçlerindeki örüntüyü fark eden kişi Mobley oldu. Ret bildirimlerinin önemli bir bölümünün gece yarısı gelmesi ve başvuruların çok hızlı biçimde sonuçlanması, karar sürecinin arkasında insan müdahalesinin sınırlı olabileceğini düşünmesine neden oldu. Haklıydı da…

Mobley, başvurularını reddeden şirketler yerine, bu süreçlerde kullanılan yazılım platformunun sağlayıcısı olan Workday’i dava etti. Mobley’in iddiasına göre sorun, şirketlerin insan kaynakları kararları değil, bu kararları şekillendiren algoritmik değerlendirme ve filtreleme sistemleriydi (Mobley v. Workday, Inc., 2023).

Mobley, LinkedIn gibi platformlarda gördüğü iş ilanlarına başvurduğunda Workday’in işe alım platformuna yönlendirildiğini belirtti. Başvuru sürecinde kullanıcı hesabı oluşturuluyor, özgeçmiş yükleniyor veya aday bilgileri sisteme manuel olarak giriliyordu. Mobley’e göre Workday’in kullandığı sistemler, yaş (özellikle 40 yaş üzerindeki adaylar), ırk (Afrikalı Amerikalı adaylar) ve engellilik temelinde ayrımcı sonuçlar üretebiliyordu (Mobley v. Workday, Inc., 2024).

Workday ise savunmasında, işe alımlarda nihai kararın sistem tarafından verilmediğini vurguladı. Şirketin temel argümanları şunlardı:

• İşverenlerin işe alım kriterlerini kendilerinin belirlediği,
• Sistemin yalnızca insan karar vericilere destek sağladığı,
• Nihai kararın işverenlere ait olduğu,
• Yazılımın bağımsız bir amaç veya niyet taşımadığı.

Bu savunma, yapay zekâ sistemlerinin sorumluluğu tartışmalarındaki temel sorunlardan birini ortaya koyuyordu: Bir sistem doğrudan karar vermiyor, ancak karar sürecini biçimlendiriyorsa ortaya çıkan sonuçlardan kim sorumlu tutulmalıdır?

Mahkemeler, Workday’in yalnızca bir yazılım sağlayıcısı olduğu yönündeki savunmasını davanın erken aşamalarında yeterli görmedi. Mayıs 2025’te mahkeme, Mobley’in yaş ayrımcılığı iddiaları bakımından toplu eylem (collective action) sürecinin başlatılmasına ön onay verdi. Böylece Workday platformları üzerinden elendiğini düşünen 40 yaş üzerindeki diğer adayların da davaya katılmasının yolu açıldı. Haziran 2026’da ise mahkeme, Workday’in algoritmik araçların geliştirilmesi ve kullanımındaki rolünün, davacıların Kaliforniya Eyaleti Adil İstihdam ve Konut Yasası (FEHA) kapsamındaki iddialarının devam etmesi için yeterli bir bağlantı oluşturabileceğine karar verdi.

Mobley davası, işe alım süreçlerinde kullanılan yapay zekâ sistemlerinin yalnızca teknik araçlar olmadığını, bu sistemlerin tasarımı, eğitimi ve kullanım biçiminin hukuki ve etik sorumluluk sorularını da beraberinde getirdiğini gösteriyor.

Sohbet Robotları ve Hukuksal Sorumluluk

Üretken yapay zekâdaki atılımların ardından bazı şirketler müşteri hizmetlerini sohbet robotlarına devretmeye başladı. Önceki nesil sistemlerle karşılaştırıldığında bu yeni nesil sohbet robotları oldukça başarılı olsa da her zaman doğru yanıt üretmeyen ve zaman zaman halüsinasyon olarak adlandırılan hatalı içerikler oluşturan sistemler olmaları çeşitli sorunlara yol açabiliyor. Bu nedenle şirketlerin, bu sohbet robotlarını hangi alanlarda ve hangi sınırlar içinde kullanacaklarını dikkatle değerlendirmeleri gerekiyor. Kanada vatandaşı Jake Moffatt’ın Air Canada’ya karşı açtığı dava, şirketler için bu konuda önemli bir uyarı niteliğinde (Proctor, 2024).

Moffatt, 2022 yılında büyükannesinin vefatı üzerine Vancouver’dan Toronto’ya acil bir seyahat planlamak istedi. Air Canada’nın web sitesindeki yapay zekâ destekli sohbet robotuna, vefat nedeniyle uygulanan özel indirimli bilet politikasını sordu. Sohbet robotu, Moffatt’a biletleri normal fiyattan satın alabileceğini ve seyahati tamamladıktan sonra 90 gün içinde Bilet İade Başvuru Formu doldurarak aradaki farkı geriye dönük olarak geri alabileceğini söyledi. Oysa Air Canada’nın resmi yazılı politikası, geriye dönük indirimleri kesinlikle yasaklıyordu. Bu talebin uçuş gerçekleştirilmeden önce yapılması gerekiyordu.

Moffatt, biletleri satın alıp seyahatini tamamladıktan sonra iade başvurusunda bulundu. Ancak Air Canada, beklenildiği gibi bu talebi reddetti. Bunun üzerine Moffatt, sohbet robotunun verdiği yanıtların ekran görüntülerini de sunarak tazminat davası açtı.

Air Canada savunmasında sorumluluğu hem sohbet robotunun işleyişine hem de Moffatt’ın davranışlarına bağlamaya çalıştı. Şirket, yapay zekâ sohbet robotunun kendisinden bağımsız “ayrı bir tüzel kişilik” (separate legal entity) olarak değerlendirilmesi gerektiğini, kendi bilgi ekosistemine sahip olduğunu ve verdiği hatalı yanıtlardan kendisinin sorumlu tutulması gerektiğini ileri sürdü. Ayrıca sohbet robotunun mesaj içinde ilgili politikaya ilişkin bir bağlantı paylaştığını; kullanıcının bu bağlantıya tıklayarak web sitesindeki güncel ve doğru politikayı kendi çabasıyla bulması gerektiğini savundu.

Şubat 2024’te British Columbia Sivil Çözüm Mahkemesi (Civil Resolution Tribunal), Air Canada’nın savunmasını reddederek tüketici lehine karar verdi. Mahkeme, sohbet robotunun ayrı bir tüzel kişilik olarak değerlendirilmesi gerektiği yönündeki iddiayı kabul etmedi. Bunun yanında Air Canada’nın, web sitesinin bir bölümünde yer alan sohbet robotu yanıtlarının şirketin diğer bölümlerindeki resmi bilgilerden bağımsız değerlendirilmesi gerektiği yönündeki savunmasını da haklı bulmadı. Mahkemeye göre bir kullanıcıdan, aynı şirketin web sitesinde yer alan bilgiler arasında hangisinin doğru, hangisinin yanlış olduğunu kendisinin ayırt etmesini beklemek makul değildi.

Air Canada, Moffatt’a tazminat ödemek zorunda kaldı. Ayrı bir tüzel kişiliğe sahip olduğunu savunduğu sohbet robotu ise kısa süre sonra kullanımdan kaldırıldı.

Kitaplar ve Yazarların Sorumluluğu

Sosyal medyada sıkça karşımıza çıkan bu karikatürü, ’Tamamen gerçek hayattan esinlenilmiştir.’ notuyla paylaşmak hiç de fena olmazdı:

Üretken yapay zekâ araçlarının yaygınlaşmasıyla birlikte internet, bu araçlarla üretilen içeriklerle dolmaya başladı. Benzer bir durum kitap dünyasında da görülmeye başladı. Amazon, yapay zekâ tarafından üretilen ve insan tarafından yazılmış gibi sunulan kitaplar için önemli bir satış platformuna dönüştü.

Bu kitaplardan dördü, Guardian gazetesinin talebi üzerine yapay zekâ tarafından üretilen içerikleri tespit eden ABD merkezli Originality.ai şirketi tarafından incelendi. Şirket, incelediği her kitabın yapay zekâ tespit testinde yüzde 100 puan aldığını söyledi. Bu kitapların ChatGPT gibi bir sohbet robotu tarafından üretilmiş olma ihtimali son derece yüksekti (Milmo, 2023).

Guardian’ın haberinde, söz konusu kitaplarda yer alan bazı bilgilerin insan yaşamı açısından risk oluşturabileceğine dikkat çekiliyordu. Cornwall merkezli Family Foraging Kitchen kuruluşunda saha gezilerinde rehber ve mantar uzmanı olarak görev yapan Leon Frey, kitaplarda mantarların “koku ve tat” gibi özelliklerle tanımlanmasının ciddi bir hata olduğunu vurguluyordu. Çünkü bu tür ifadeler, okuyucuları mantarları tadım yoluyla tanımlamaya teşvik edebilirdi.

Örneğin yenilebilir türlerle karıştırılabilen ve son derece zehirli olan ölüm şapkası mantarı gibi türler ciddi sağlık riskleri oluşturur. Ayrıca kitaplardan birinde aslan yelesi mantarından bahsediliyor ve bu mantarın yenilebilir olduğu belirtiliyordu. Ancak Frey’in dikkat çektiği gibi, bu tür mantarlar İngiltere’de koruma altında olduğundan toplanmamalıdır. Bu kitapların yazarları (!) yoğun eleştirilere maruz kaldı ve Amazon söz konusu kitapların satışlarını durdurdu.

Eğer bir kişi, üretken yapay zekâ ile oluşturulan hatalı bir mantar kitabındaki bilgiler nedeniyle zarar görmüş olsaydı, kitabın yazarı doğrudan birini zehirlemeyi amaçlamamış olsa bile sorumluluk tartışmasının merkezinde yer alacaktı.

Sorumluluk Boşluğu Nedir?

Yapay zekâ teknolojilerindeki gelişmeler, sorumluluğa ilişkin önemli bir soruyu yeniden gündeme taşıdı. Bu sistemler bazen onları geliştirenlerin, kullananların ve denetleyenlerin bile tam olarak öngöremediği veya neden ortaya çıktığını açıklayamadığı sonuçlar üretebiliyor. Böyle durumlarda ortada bir zarar var, ancak bu zarardan kimin sorumlu tutulması gerektiği her zaman açık olmuyor: bazen sorumluluk birçok aktör arasında dağılıyor, bazen de mevcut ahlaki ve hukuki ölçütlerle sorumluluğu haklı biçimde yükleyebileceğimiz belirli bir kişi ya da kurum bulmak zorlaşıyor. Bu sorun, Andreas Matthias’ın 2004 yılında yayımladığı “Sorumluluk Boşluğu: Öğrenen Otomatların Eylemlerine Sorumluluk Atfetmek” başlıklı makalesiyle yapay zekâ etiği literatürünün temel tartışmalarından biri hâline geldi.

Matthias (2004), çalışmasında yapay zekâ sistemlerinin veya otonom sistemlerin neden olduğu zararlarda, hiçbir insanın (programcı, üretici veya operatör) bu sonuçtan ahlaki olarak sorumlu tutulamayabileceği durumları ele alıyordu. Bir kişiyi bir eylemden sorumlu tuttuğumuzda, o kişinin kendisine yöneltilen sorular karşısında niyetlerini ve kararlarını hangi gerekçelere dayanarak oluşturduğunu açıklayabilmesini bekleriz. Ayrıca sorumlu tutulan kişi, öfke, minnettarlık, kınama veya övgü gibi tepkisel tutumların muhatabı olabilir.

Ancak bir kişiye sorumluluk atfedebilmek için, o kişinin davranışları ve bu davranışların sonuçları üzerinde yeterli düzeyde kontrol sahibi olması gerekir. Başka bir deyişle, bir kişi ancak eylemini çevreleyen koşulların farkındaysa, bu koşulları değerlendirebiliyor ve mevcut seçenekler arasından bilinçli bir tercih yapabiliyorsa eyleminden sorumlu tutulabilir. Geleneksel sorumluluk anlayışında, bir kişinin bir makinenin davranışları hakkında yeterli bilgiye sahip olması ve bu davranışlar üzerinde belirli bir düzeyde kontrol kurabilmesi beklenir. Bir makine, üreticinin öngördüğü biçimde çalıştığı ve kullanıcı da onu kullanım talimatlarına uygun şekilde işlettiği sürece, ortaya çıkan sonuçlardan doğan sorumluluk genellikle operatöre atfedilir. Buna karşılık, makine tasarımından veya üretim sürecinden kaynaklanan ve üreticinin kontrol alanında bulunan bir sorun nedeniyle beklenmeyen sonuçlar ortaya çıkarsa sorumluluk üreticiye yönelebilir.

Bu yaklaşımın temelinde, sorumluluk atfetmenin ön koşullarından birinin eylemler ve sonuçlar üzerinde yeterli denetime sahip olmak olduğu düşüncesi yer alır. Kullanım kılavuzları, bir cihazın hangi koşullarda ve nasıl kullanılacağını belirleyerek, kullanıcı ile üreticinin sorumluluk alanlarının ayrılmasına yardımcı olur. Böylece operatör, cihazı üreticinin öngördüğü sınırlar içinde ve sonuçları büyük ölçüde tahmin edilebilir bir biçimde kullanabilir.

Operatörün makine üzerindeki denetim kapasitesi azaldıkça, ortaya çıkan sonuçlardan onu sorumlu tutmak da zorlaşır. Matthias (2004), bu durumu Dünya’dan bir Mars aracını uzaktan kontrol eden teknisyen örneğiyle açıklar. Mars’taki bir kum fırtınası nedeniyle aracın algılama kapasitesi azalır ve Dünya ile araç arasındaki iletişim gecikmeleri müdahale olanağını sınırlar. Bu koşullar altında araç bir çukura düşerek kaybolursa, teknisyenin bu kayıptan sorumlu tutulmasının haklı olmayacağını savunur. Hatta böyle bir durumda, ortaya çıkan sonuçtan açıkça sorumlu tutulabilecek belirli bir kişi bulmak da zordur.

Günümüzde giderek artan sorun ise denetim kaybının yalnızca fiziksel uzaklık veya iletişim gecikmesi gibi olağandışı durumlarda ortaya çıkmamasıdır. Öğrenen makineler, kullanıma sunulduktan sonra yeni verilerle karşılaşarak davranışlarını değiştirebilir ve geliştiricilerinin başlangıçta öngörmediği sonuçlar üretebilir. Bu nedenle ortaya çıkan eylemler, her zaman yaratıcılarının doğrudan niyetleri veya başlangıçtaki programlama tercihleriyle açıklanamayabilir Matthias (2004).

Geleneksel sorumluluk atfetme yaklaşımları böyle durumlarda yetersiz kalır. Çünkü hiç kimse sistemin belirli bir eylemi üzerinde yeterli düzeyde kontrole sahip değildir. Bu durum, yapay zekâ etiği literatüründe “sorumluluk boşluğu” olarak tartışılır.

Matthias’tan Sonra Sorumluluk Boşluğu

Sorumluluk boşluğu tartışmalarının çoğunlukla otomatik sürüş özelliklerine sahip araçların kazaları veya katil robotlar gibi örnekler üzerinden yürütülmesinde, Matthias’ın (2004) ve Sparrow’un (2007) öğrenen sistemlerin öngörülemezliğine yaptığı vurgunun önemli bir rolü vardır. Ancak Santoni de Sio ve Mecacci’nin (2021) de belirttiği gibi, sorumluluk boşluğu sorununu yalnızca bu tür teknolojik sistemlerle sınırlı görmek doğru değildir.

Bürokrasiler ve şirketler gibi karmaşık örgütsel aktörler de kendi yapıları nedeniyle sorumluluk atfetme konusunda benzer sorunlara yol açabilir. Bu problem klasik olarak “çok sayıda el problemi” (the problem of many hands) adıyla bilinir.

Çok sayıda el problemi, ilk bakışta sorumluluk boşluğunun karşıtı gibi görünür. Sorumluluk boşluğunda ortada bir zarar vardır ancak sorumlu tutulabilecek belirli bir kişi bulmak zordur. Çok sayıda el probleminde ise aksine, sürece dahil olan çok sayıda kişi ve kurumsal aktör vardır. Ancak sorumluluk çok sayıda aktöre dağıldığı için belirli bir kişinin ne ölçüde sorumlu olduğu belirsizleşir. Sonuçta her iki durumda da benzer bir sorun ortaya çıkar: Ortaya çıkan sonuçtan kimin sorumlu tutulacağı açık değildir.

Çok sayıda el problemi kuşkusuz yapay zekâdan önce de var olan bir sorundur. Ancak yapay zekâ, bir yandan bu problemin yeni biçimlerini ortaya çıkarırken diğer yandan onu daha görünür hâle getirmiştir. Ayrıca karar verme süreçlerinde yapay zekâ ve veri odaklı sistemlerin kullanılması, bireylerin ahlaki ve hukuki sorumluluk için geleneksel olarak aranan koşulları (niyet, öngörülebilirlik ve kontrol) yerine getirmesini zorlaştıran yeni bir teknik belirsizlik ve açıklanamazlık boyutu eklemektedir (Santoni de Sio ve Mecacci, 2021) .

Matthias’ın (2004) çalışmasının bir diğer özelliği, gerçekleşmiş olumsuz sonuçlara, yani ortaya çıkmış zararlara odaklanmasıdır. Sonraki birçok çalışma da benzer biçimde, meydana gelen zararların ardından sorumluluğun nasıl atfedileceği sorusunu ele almıştır. Buna karşılık Nyholm’un (2023) yaklaşımı, sorumluluk boşluğu tartışmasını yalnızca geçmişte yaşanmış zararlarla sınırlamayıp henüz gerçekleşmemiş durumları ve olumlu sonuçları da dikkate alarak genişletmektedir.

Böylece sorumluluk boşluğu tartışması yalnızca hataların ve zararların ardından kimin sorumlu tutulacağı sorusuyla sınırlı kalmaz. Aynı zamanda gelecekteki zararları önlemede kimin sorumluluk taşıdığı, başarıların ve katkıların kime atfedileceği gibi sorular da tartışmaya dahil edilir.

Dört Farklı Sorumluluk Boşluğu

Matthias (2004), sorumluluk atfedilen kişinin yalnızca eleştiri ve kınamanın değil aynı zamanda minnettarlık ve övgü gibi tepkisel tutumların da muhatabı olabileceğini belirtir. Başka bir deyişle, sorumluluk kavramı yalnızca hatalar ve zararlar karşısında kimin suçlanacağı sorusuyla sınırlı değildir. Başarıların ve olumlu sonuçların kime atfedileceği sorusunu da içerir.

Ayrıca sorumluluk yalnızca geçmişte gerçekleşmiş eylemlerle ilgili değildir. Gelecekte ortaya çıkabilecek durumları etkilemek, olumsuz sonuçları önlemek veya olumlu sonuçların ortaya çıkmasına katkıda bulunmak da sorumluluk kapsamında değerlendirilebilir. Bu nedenle Nyholm (2023), sorumluluk boşluğu tartışmasını iki farklı eksende (geçmiş-gelecek ve olumlu-olumsuz) ele alarak dört kategoriye ayırır:

1. Geçmişe dönük olumsuz sorumluluk boşlukları: Bir zarar oldu, ama kimi suçlayacağımız belirsiz.
2. Geçmişe dönük olumlu sorumluluk boşlukları: Bir başarı oldu, ama kimi takdir edeceğimiz belirsiz.
3. Geleceğe dönük olumsuz sorumluluk boşlukları: Gelecekteki zararı önleme görevi kime ait?
4. Geleceğe dönük olumlu sorumluluk boşlukları: Gelecekteki faydayı gerçekleştirme sorumluluğu kime ait?

Geçmişe dönük olumsuz sorumluluk boşlukları, olmuş bir şeyden kimin sorumlu olacağı ile ilgilidir. Yazıda şimdiye kadar verdiğim örnekler bu bağlamda değerlendirilebilir. Olumsuz bir durum gerçekleşmiştir ve bunun sorumlusu aranmaktadır. Ancak kimin haklı olarak sorumlu tutulabileceği belirsizdir.

Geçmişe dönük olumlu sorumluluk boşlukları, bilgisayarların birçok alanda insanlardan daha başarılı sonuçlar üretmesi veya insanların başarılarında önemli bir rol oynamasıyla birlikte daha görünür hâle gelmiştir. İnsanlar, ortaya çıkan iyi sonuçlara yaptıkları katkılar nedeniyle övülebilir veya ödüllendirilebilir. Ancak olumlu bir sonuç ortaya çıktığında, kimin övgüyü hak ettiği veya başarının kime atfedilmesi gerektiği belirsizse bir sorumluluk boşluğu ortaya çıkar.

Nyholm (2023), bu durumu açıklamak için Google DeepMind tarafından geliştirilen AlphaGo ile Go ustası Lee Sedol arasındaki maçı örnek gösterir. AlphaGo, maçtan önce kendi kendine oynadığı çok sayıda oyunla mükemmelleşir. Maç sırasında ise muhtemelen AlphaGo’yu geliştiren kişilerin hiçbiri, sistemin ürettiği stratejileri ve belirli hamlelerin ardındaki gerekçeleri tam olarak anlamamaktadır. Öte yandan oyunu fiziksel olarak oynayan kişi de AlphaGo’nun neden belirli hamleleri seçtiğini bilmeden, sistemin önerdiği hamleleri tahtaya uygular.

Bu yönüyle durum, John Searle’ün ünlü Çin Odası düşünce deneyini hatırlatır. Açık seçik bir başarı vardır: AlphaGo, dünya şampiyonu Lee Sedol’u yenmiştir. Ancak bu başarının kime atfedileceği sorusu kolayca yanıtlanamaz. Sistemi geliştiren insanlar mi, hamleleri uygulayan oyuncu mu, yoksa kendi kendine öğrenen yapay zekâ sistemi mi bu başarının asıl sahibi olarak görülmelidir?

Nyholm’un (2023) yaklaşımı, sorumluluk boşluğunu sorununu bir aşma girişimi olmaktan çok, yapay zekâ sistemlerinin yaygınlaşmasıyla karşılaşacağımız yeni sorunları görünür hâle getirir. Örneğin otomasyon ve robotlaşmayla birlikte birçok alanda daha fazla görevin yapay zekâ sistemlerine veya robotlara devredileceği öngörülmektedir. Bu durumun kitlesel işsizliğe mi yol açacağı, yoksa yeni işler mi yaratacağı sıkça tartışılmaktadır.

Ancak mesele yalnızca istihdam değildir. İş, insanların yalnızca gelir elde ettiği bir faaliyet değil, aynı zamanda anlam, başarı ve takdir duygusu kazandığı bir alandır; bu fırsatların azalması da kendi başına bir sorun oluşturabilir. İnsan, ürettikçe insan olur. Elbette üretim sürecinin hangi üretim tarzında gerçekleştiği önemli bir konudur. Ama insanın üretici etkinliği, özellikle yaratıcılığını sergileyebilme olanağı bulduğu alanlarda, sekteye uğradığında bambaşka sonuçlar doğabilir.

Örneğin, tıp alanında doktorların rolü hastalarının durumunu değerlendirmekten çok, yapay zekâ sistemlerinin yaptığı değerlendirmeleri hastalara aktarmaya indirgenirse, bu durum hekimlik mesleğiyle ilişkilendirdiğimiz insani unsurları ve profesyonel özerkliği zayıflatabilir. Benzer biçimde, önemli bir bilimsel keşif bir insan araştırmacı tarafından değil, bir yapay zekâ sistemi tarafından gerçekleştirilirse, ortaya çıkan başarının kime atfedileceği belirsizleşebilir. Eğer keşfe yol açan temel analizler, örüntüleri bulan ve ilişkileri ortaya çıkaran yapay zekâ sistemi tarafından gerçekleştirilmişse, insan araştırmacıların bu başarıdaki payı nasıl değerlendirilecektir?

Olumlu bir sonuç ortaya çıkmasına rağmen bu başarının sahibi olarak görülebilecek açık bir kişi bulunamayabilir. Sorumluluk boşluğu kavramı, yalnızca hatalar ve zararlar karşısında kimin hesap vereceğini değil, başarılar karşısında kimin takdiri hak ettiğini ve bunun olası sonuçlarını sorgulamamızı sağlar.

Geleceğe dönük olumsuz sorumluluk boşluklarında temel soru, bir zarar ortaya çıktıktan sonra kimin sorumlu tutulacağı değil; zarar ortaya çıkmadan önce onu önleme sorumluluğunun kime ait olduğudur. Başka bir deyişle burada amaç, yalnızca geçmişte gerçekleşmiş bir olay için sorumlu aramak değil, gelecekte ortaya çıkabilecek olumsuz sonuçları engellemekle yükümlü aktörleri belirleyebilmektir.

Çünkü bir zarar riski varsa, bu riske karşı önlem alma sorumluluğunu taşıyan bir aktörün de bulunması beklenir. Ancak özellikle karmaşık yapay zekâ sistemlerinde, bu sorumluluğun kimde olduğu veya kime atanması gerektiği her zaman açık değildir.

Örneğin, sürücüsüz bir aracın yüksek hızda ilerlediğini ve yolundaki bir kişiye çarpma riski taşıdığını varsayalım. Araç birine çarpar ve zarar ortaya çıkarsa, olay sonrasında “kim sorumlu tutulmalıdır?” sorusu gündeme gelir. Bu, geçmişe dönük olumsuz bir sorumluluk boşluğu problemidir. Ancak aynı kazanın henüz gerçekleşmediği bir durumda, bu tür bir riski öngörerek gerekli önlemleri alma ve kazayı önleme sorumluluğunun kime ait olduğu sorusu daha kritik bir hâle gelir.

Geleceğe dönük olumlu sorumluluk boşluklarında, gelecekte iyi bir sonuç üretme fırsatının bulunduğu ve bu sonucun ortaya çıkmasına katkıda bulunma sorumluluğunun bir aktöre atfedilmesinin uygun olacağı varsayılır. Ancak bu sorumluluğu üstlenecek belirli bir kişi veya kurum bulunmayabilir.

Olumlu sonuçların ortaya çıkmasını teşvik edecek biçimde davranmak, hem birçok ahlak teorisinde hem de gündelik ahlak anlayışında değerli ve erdemli bir davranış olarak görülür. Bununla birlikte, gelecekte ortaya çıkabilecek iyilikleri gerçekleştirmek için harekete geçme yükümlülüğü, zararları önleme yükümlülüğüyle aynı şekilde ele alınmaz.

Örneğin, sezgisel olarak insanlar, neden oldukları zararlardan, neden olmadıkları faydalardan daha fazla sorumlu olduklarını düşünürler. Bu nedenle tıp etiğinde “zarar vermeme” ilkesi temel bir ahlaki yükümlülük olarak kabul edilirken, her durumda aktif biçimde fayda sağlama yükümlülüğünün bulunduğu konusunda aynı ölçüde uzlaşma yoktur.

Gelecekte yapay zekâ sistemleri sayesinde elde edilebilecek olumlu sonuçlar söz konusu olduğunda da farklı bir sorun ortaya çıkar. Bir yapay zekâ sistemi önemli bir bilimsel keşfe, toplumsal faydaya veya başka bir olumlu sonuca katkıda bulunma potansiyeline sahipse, bu sonucun gerçekleşmesine yardımcı olmak kuşkusuz değerli bir çaba olarak görülebilir. Ancak böyle bir sonucu gerçekleştirmek için aktif olarak çaba göstermenin kimin sorumluluğu olduğu belirsiz kalabilir. İşte bu durum, geleceğe dönük olumlu bir sorumluluk boşluğunu oluşturur. Teknoloji şirketlerinin belirleyici aktörler hâline geldiği ve yapay zekâ teknolojilerinin toplumun geneli için doğuracağı sonuçların henüz tam olarak öngörülemediği bir gelecekte, bu tür sorumluluk boşlukları daha da endişe verici hâle gelmektedir.

Sorumluluk Boşluklarındaki Asimetriler

Nyholm (2023), sorumluluk boşlukları arasında iki önemli asimetriye dikkati çeker:

İlk asimetri, geçmişe dönük olumsuz ve geçmişe dönük olumlu sorumluluk boşlukları arasındadır. Bir zarar ortaya çıktığında insanlar genellikle sorumluluğu üstlenmek yerine başkasına yüklemeye çalışırlar. Yazının başındaki Tesla, Workday ve Air Canada örneklerinde de şirketlerin ilk tepkisi büyük ölçüde bu yönde olmuştur. Bu durum şaşırtıcı değildir. Çünkü olumsuz bir sonucun sorumluluğunu üstlenmek, eleştirilere maruz kalmayı, itibar kaybını, hukuki yaptırımları ve hatta cezai sorumluluğu beraberinde getirebilir. Buna karşılık başarılı bir sonuç ortaya çıktığında insanlar çoğu zaman bu başarının kendi katkılarıyla gerçekleştiğini göstermeye ve övgünün kendilerine yönelmesini istemeye daha isteklidir. Takdir görmek, ödüllendirilmek ve mesleki itibar kazanmak güçlü motivasyonlardır.

Bu nedenle yapay zekâ sistemlerinin yol açtığı olumsuz sonuçlarda sorumluluğu üstlenmeye gönüllü aktörler bulmak, aynı sistemlerin ortaya çıkardığı başarılı sonuçlarda övgüyü üstlenmeye gönüllü aktörler bulmaktan çok daha zordur. Hatta bazı durumlarda insanlar, başarının büyük ölçüde yapay zekâ sisteminin katkısıyla ortaya çıkmış olmasına rağmen övgünün kendilerine ait olduğunu ileri sürebilirler.

İkinci asimetri ise geçmişe dönük olumlu sorumluluk boşlukları ile geleceğe dönük olumlu sorumluluk boşlukları arasındadır. İnsanlar gerçekleşmiş bir başarının sahibi olduklarını iddia etmeye genellikle isteklidir. Buna karşılık, aynı başarıyı gelecekte ortaya çıkarmak için sorumluluk üstlenmeye ve gerekli çabayı göstermeye daha az isteklidirler. Bunun temel nedeni, iki durumun maliyetlerinin farklı olmasıdır. Gerçekleşmiş bir başarıya ortak olmak çoğu zaman düşük maliyetli, hatta kazançlıdır; saygınlık, övgü ve çeşitli ödüller getirebilir. Oysa gelecekte olumlu bir sonucun ortaya çıkmasını sağlamak için sorumluluk üstlenmek zaman, emek, kaynak ve fırsat maliyetleri gerektirir. Bu nedenle insanlar başarı ortaya çıktıktan sonra onun bir parçası olmak istemeye, başarı henüz ortada yokken ise onu gerçekleştirme sorumluluğunu üstlenmekten kaçınmaya daha yatkındırlar.

Dolayısıyla günümüzde yapay zekâ etrafında oluşan coşkuyu ve kamu ile özel sektördeki aktörlerin sorumluluk alma konusundaki tutumlarını, Nyholm’un (2023) ortaya koyduğu bu asimetriler ışığında birlikte değerlendirmek yararlı olabilir. Yapay zekâyla “bir şeyler” yapmak ve alkış almak isteyen çok sayıda kişi ve kurum var. Ancak sıra sorumlulukların belirlenmesine geldiğinde, bu coşkunun yerini çoğu zaman sessizlik alabiliyor.

Sonuç

Yapay zekâdan önce var olan ama yapay zekâyla genişleyen ve artan sorumluluk boşlukları var. Kuşkusuz tüm sorumluluk boşluklarının aşılması olanaklı değil. Ama yine de bu boşlukların azaltılmasını hedefleyen öneriler ve regülasyon çalışmaları var.

Örneğin Nyholm (2023), sorumluluk boşluklarını ele alırken yapay zekâ destekli otonom sistemleri insan-makine ekiplerinin bir parçası olarak değerlendirmeyi öneriyor. Bu yaklaşımda insanlar yönetici, gözetici veya denetleyici roller üstlenir ve hiyerarşik bir ekipteki liderlere benzer sorumluluklar taşıyabilirler.

Askeri bir birlikteki komutan, bir operasyon sırasında birlik içindeki askerlerin eylemlerinden belirli ölçüde sorumludur. Eğer askeri robotlar da bu birliğin parçası olur ve belirli bir işlevsel özerklikle çalışırsa komutanın sorumluluğu yalnızca insan askerlerin eylemleriyle sınırlı olmayabilir. Uygun koşullarda robotların eylemlerini de kapsayabilir.

Ayrıca Nyholm (2023), yapay zekâ destekli otonom bir sistemin eylemlerinden kimin sorumlu tutulabileceğini belirlemek için şu tür sorular sorulmasını önerir:

• Şu anda “otomatik pilot” veya “otonom” modda çalışan teknoloji kimin gözetimi ve az çok doğrudan kontrolü altında bulunmaktadır?
• Teknolojiyi kim başlatabilir, çalışmasını devralabilir veya durdurabilir?
• Teknoloji otonom modda çalışırken kimin tercihlerine uygun biçimde hareket etmektedir?
• Teknoloji aktif durumdayken gerçek davranışını gözlemlemek ve izlemek için kim daha iyi konumdadır?
• Teknolojinin işleyişini en azından genel düzeyde kim anlayabilir?
• Teknolojiyi kim güncelleyebilir veya güncelleme talebinde bulunabilir?

Bu sorulara verilen yanıtlar belirli bir kişi veya kişi grubunu işaret ediyorsa, yapay zekâ sisteminin işleyişinden sorumluluğun bu kişi veya gruba atfedilmesi daha anlamlı hâle gelir. Örneğin, bir otonom araç veya askeri robot belirli bir aktörün gözetimi altında çalışıyor olabilir. Bu aktör sistemi başlatma, durdurma veya gerektiğinde müdahale etme yetkisine sahip olabilir; sistemin davranışları da büyük ölçüde onun belirlediği amaçlar ve tercihler doğrultusunda şekillenebilir. Ayrıca bu aktör, sistemin davranışlarını izleyebilir, genel düzeyde nasıl çalıştığını anlayabilir ve gerekli güncellemelerin yapılmasını sağlayabilir.

Ancak Nyholm’un (2023) da belirttiği gibi, gerçek dünyadaki sorumluluk boşluklarını ele almak, yapay zekâ sistemlerinin eylemlerinden kimin sorumlu tutulabileceğine ilişkin soyut felsefi modeller geliştirmekten çok daha zordur!

Geçmişe ve geleceğe dönük olumlu sorumluluk boşlukları, yapay zekâ etiği literatüründe olumsuz sorumluluk boşlukları kadar fazla ele alınmayan konular. Öte yandan, yapay zekâ teknolojilerinin işsizliğe neden olup olmayacağı hem iktisatçılar hem de çalışanlar açısından uzun süredir tartışılan bir konu. Nyholm’un (2023) geçmişe dönük olumlu sorumluluk boşluğu kavramı, yapay zekânın çalışma hayatındaki etkilerini yalnızca istihdam üzerinden değerlendirmememiz gerektiğini gösteriyor. Çünkü iş, insanların yalnızca gelir elde ettiği bir faaliyet değildir; aynı zamanda dünyayla ilişki kurma, üretme ve kendini gerçekleştirme biçimlerinden biridir. Eğer insanlar giderek daha fazla anlamlı üretim süreçlerinin dışında kalırsa, sorun yalnızca ekonomik bir kayıp olmakla kalmaz: insanların yeteneklerini geliştirme, toplumsal süreçlere anlamlı katkılarda bulunma ve kendilerini gerçekleştirme kapasiteleri de aşınmaya başlayabilir.

Geleceğe dönük olumlu sorumluluk boşluğu ise Büyük Teknoloji şirketlerine ve birkaç devlete bırakılamayacak kadar önemli bir konu…

Kaynakça

Chokshi, N. (2020). Tesla Autopilot System Found Probably at Fault in 2018 Crash. The New York Times. https://www.nytimes.com/2020/02/25/business/tesla-autopilot-ntsb.html

Elluswamy, A. (2026, Haziran 22). Yup. In this case, the driver manually overrode self-driving by pressing the accelerator all the way to 100% of […]. X. https://x.com/aelluswamy/status/2069168079549161491

Ewing, J., Metz, C., ve Taylor, D. B. (2023). Tesla Recalls Autopilot Software in 2 Million Vehicles. The New York Times. https://www.nytimes.com/2023/12/13/business/tesla-autopilot-recall.html

Matthias, A. (2004). The responsibility gap: Ascribing responsibility for the actions of learning automata. Ethics and information technology, 6(3), 175-183.

Milmo, D. (2023). Mushroom pickers urged to avoid foraging books on Amazon that appear to be written by AI. The Guardian, 1. https://www.theguardian.com/technology/2023/sep/01/mushroom-pickers-urged-to-avoid-foraging-books-on-amazon-that-appear-to-be-written-by-ai

Mobley v. Workday, Inc. (2023). No. 3:23-cv-00770-RFL. https://www.courtlistener.com/docket/66831340/mobley-v-workday-inc/

Mobley v. Workday, Inc. (2024). No. 3:23-cv-00770-RFL, Order. https://blogs.duanemorris.com/classactiondefense/wp-content/uploads/sites/56/2024/07/Mobley-v.-Workday-Order.pdf

Nyholm, S. (2023). Responsibility gaps, value alignment, and meaningful human control over artificial intelligence. Içinde Risk and responsibility in context (ss. 191-213). Routledge.

Petri, A. E. (2026). Tesla Driver Using Autopilot in Texas Crash Is Charged With Manslaughter. The New York Times. https://www.nytimes.com/2026/07/02/us/tesla-autopilot-crash-texas-manslaughter.html

Proctor, J. (2024). Air Canada found liable for chatbot’s bad advice on plane tickets. CBC News. https://www.cbc.ca/news/canada/british-columbia/air-canada-chatbot-lawsuit-1.7116416

Santoni de Sio, F., ve Mecacci, G. (2021). Four responsibility gaps with artificial intelligence: Why they matter and how to address them. Philosophy ve technology, 34(4), 1057-1084.

Sparrow, R. (2007). Killer robots. Journal of applied philosophy, 24(1), 62-77.