Afrikal\u0131 Amerikal\u0131, 40 ya\u015f\u0131n \u00fczerinde ve baz\u0131 sa\u011fl\u0131k sorunlar\u0131 bulunan ABD\u2019li bir aday olan Mobley, y\u00fcz\u00fcn \u00fczerinde i\u015fe ba\u015fvurmu\u015f ve bu ba\u015fvurular\u0131n tamam\u0131ndan olumsuz yan\u0131t alm\u0131\u015ft\u0131. Yapay \u00f6\u011frenme sistemleri \u00f6r\u00fcnt\u00fcleri tan\u0131mada olduk\u00e7a ba\u015far\u0131l\u0131d\u0131r. Bu kez reddedilme s\u00fcre\u00e7lerindeki \u00f6r\u00fcnt\u00fcy\u00fc fark eden ki\u015fi Mobley oldu. Ret bildirimlerinin \u00f6nemli bir b\u00f6l\u00fcm\u00fcn\u00fcn gece yar\u0131s\u0131 gelmesi ve ba\u015fvurular\u0131n \u00e7ok h\u0131zl\u0131 bi\u00e7imde sonu\u00e7lanmas\u0131, karar s\u00fcrecinin arkas\u0131nda insan m\u00fcdahalesinin s\u0131n\u0131rl\u0131 olabilece\u011fini d\u00fc\u015f\u00fcnmesine neden oldu. Hakl\u0131yd\u0131 da…<\/p>\n\n\n\n
Mobley, ba\u015fvurular\u0131n\u0131 reddeden \u015firketler yerine, bu s\u00fcre\u00e7lerde kullan\u0131lan yaz\u0131l\u0131m platformunun sa\u011flay\u0131c\u0131s\u0131 olan Workday\u2019i dava etti. Mobley\u2019in iddias\u0131na g\u00f6re sorun, \u015firketlerin insan kaynaklar\u0131 kararlar\u0131 de\u011fil, bu kararlar\u0131 \u015fekillendiren algoritmik de\u011ferlendirme ve filtreleme sistemleriydi (Mobley v. Workday, Inc., 2023).<\/p>\n\n\n\n
Mobley, LinkedIn gibi platformlarda g\u00f6rd\u00fc\u011f\u00fc i\u015f ilanlar\u0131na ba\u015fvurdu\u011funda Workday\u2019in i\u015fe al\u0131m platformuna y\u00f6nlendirildi\u011fini belirtti. Ba\u015fvuru s\u00fcrecinde kullan\u0131c\u0131 hesab\u0131 olu\u015fturuluyor, \u00f6zge\u00e7mi\u015f y\u00fckleniyor veya aday bilgileri sisteme manuel olarak giriliyordu. Mobley\u2019e g\u00f6re Workday\u2019in kulland\u0131\u011f\u0131 sistemler, ya\u015f (\u00f6zellikle 40 ya\u015f \u00fczerindeki adaylar), \u0131rk (Afrikal\u0131 Amerikal\u0131 adaylar) ve engellilik temelinde ayr\u0131mc\u0131 sonu\u00e7lar \u00fcretebiliyordu (Mobley v. Workday, Inc., 2024).<\/p>\n\n\n\n
Workday ise savunmas\u0131nda, i\u015fe al\u0131mlarda nihai karar\u0131n sistem taraf\u0131ndan verilmedi\u011fini vurgulad\u0131. \u015eirketin temel arg\u00fcmanlar\u0131 \u015funlard\u0131:<\/p>\n\n\n\n
- \n
- \u0130\u015fverenlerin i\u015fe al\u0131m kriterlerini kendilerinin belirledi\u011fi,<\/li>\n\n\n\n
- Sistemin yaln\u0131zca insan karar vericilere destek sa\u011flad\u0131\u011f\u0131,<\/li>\n\n\n\n
- Nihai karar\u0131n i\u015fverenlere ait oldu\u011fu,<\/li>\n\n\n\n
- Yaz\u0131l\u0131m\u0131n ba\u011f\u0131ms\u0131z bir ama\u00e7 veya niyet ta\u015f\u0131mad\u0131\u011f\u0131.<\/li>\n<\/ul>\n\n\n\n
Bu savunma, yapay zek\u00e2 sistemlerinin sorumlulu\u011fu tart\u0131\u015fmalar\u0131ndaki temel sorunlardan birini ortaya koyuyordu: Bir sistem do\u011frudan karar vermiyor, ancak karar s\u00fcrecini bi\u00e7imlendiriyorsa ortaya \u00e7\u0131kan sonu\u00e7lardan kim sorumlu tutulmal\u0131d\u0131r?<\/p>\n\n\n\n
Mahkemeler, Workday\u2019in yaln\u0131zca bir yaz\u0131l\u0131m sa\u011flay\u0131c\u0131s\u0131 oldu\u011fu y\u00f6n\u00fcndeki savunmas\u0131n\u0131 davan\u0131n erken a\u015famalar\u0131nda yeterli g\u00f6rmedi. May\u0131s 2025\u2019te mahkeme, Mobley\u2019in ya\u015f ayr\u0131mc\u0131l\u0131\u011f\u0131 iddialar\u0131 bak\u0131m\u0131ndan toplu eylem (collective action) s\u00fcrecinin ba\u015flat\u0131lmas\u0131na \u00f6n onay verdi. B\u00f6ylece Workday platformlar\u0131 \u00fczerinden elendi\u011fini d\u00fc\u015f\u00fcnen 40 ya\u015f \u00fczerindeki di\u011fer adaylar\u0131n da davaya kat\u0131lmas\u0131n\u0131n yolu a\u00e7\u0131ld\u0131. Haziran 2026\u2019da ise mahkeme, Workday\u2019in algoritmik ara\u00e7lar\u0131n geli\u015ftirilmesi ve kullan\u0131m\u0131ndaki rol\u00fcn\u00fcn, davac\u0131lar\u0131n Kaliforniya Eyaleti Adil \u0130stihdam ve Konut Yasas\u0131 (FEHA) kapsam\u0131ndaki iddialar\u0131n\u0131n devam etmesi i\u00e7in yeterli bir ba\u011flant\u0131 olu\u015fturabilece\u011fine karar verdi.<\/p>\n\n\n\n
<\/a> Mobley davas\u0131, i\u015fe al\u0131m s\u00fcre\u00e7lerinde kullan\u0131lan yapay zek\u00e2 sistemlerinin yaln\u0131zca teknik ara\u00e7lar olmad\u0131\u011f\u0131n\u0131, bu sistemlerin tasar\u0131m\u0131, e\u011fitimi ve kullan\u0131m bi\u00e7iminin hukuki ve etik sorumluluk sorular\u0131n\u0131 da beraberinde getirdi\u011fini g\u00f6steriyor.<\/p>\n\n\n\n
Sohbet Robotlar\u0131 ve Hukuksal Sorumluluk<\/h2>\n\n\n\n
\u00dcretken yapay zek\u00e2daki at\u0131l\u0131mlar\u0131n ard\u0131ndan baz\u0131 \u015firketler m\u00fc\u015fteri hizmetlerini sohbet robotlar\u0131na devretmeye ba\u015flad\u0131. \u00d6nceki nesil sistemlerle kar\u015f\u0131la\u015ft\u0131r\u0131ld\u0131\u011f\u0131nda bu yeni nesil sohbet robotlar\u0131 olduk\u00e7a ba\u015far\u0131l\u0131 olsa da her zaman do\u011fru yan\u0131t \u00fcretmeyen ve zaman zaman hal\u00fcsinasyon olarak adland\u0131r\u0131lan hatal\u0131 i\u00e7erikler olu\u015fturan sistemler olmalar\u0131 \u00e7e\u015fitli sorunlara yol a\u00e7abiliyor. Bu nedenle \u015firketlerin, bu sohbet robotlar\u0131n\u0131 hangi alanlarda ve hangi s\u0131n\u0131rlar i\u00e7inde kullanacaklar\u0131n\u0131 dikkatle de\u011ferlendirmeleri gerekiyor. Kanada vatanda\u015f\u0131 Jake Moffatt\u2019\u0131n Air Canada\u2019ya kar\u015f\u0131 a\u00e7t\u0131\u011f\u0131 dava, \u015firketler i\u00e7in bu konuda \u00f6nemli bir uyar\u0131 niteli\u011finde (Proctor, 2024).<\/p>\n\n\n\n
Moffatt, 2022 y\u0131l\u0131nda b\u00fcy\u00fckannesinin vefat\u0131 \u00fczerine Vancouver\u2019dan Toronto\u2019ya acil bir seyahat planlamak istedi. Air Canada\u2019n\u0131n web sitesindeki yapay zek\u00e2 destekli sohbet robotuna, vefat nedeniyle uygulanan \u00f6zel indirimli bilet politikas\u0131n\u0131 sordu. Sohbet robotu, Moffatt\u2019a biletleri normal fiyattan sat\u0131n alabilece\u011fini ve seyahati tamamlad\u0131ktan sonra 90 g\u00fcn i\u00e7inde Bilet \u0130ade Ba\u015fvuru Formu doldurarak aradaki fark\u0131 geriye d\u00f6n\u00fck olarak geri alabilece\u011fini s\u00f6yledi. Oysa Air Canada\u2019n\u0131n resmi yaz\u0131l\u0131 politikas\u0131, geriye d\u00f6n\u00fck indirimleri kesinlikle yasakl\u0131yordu. Bu talebin u\u00e7u\u015f ger\u00e7ekle\u015ftirilmeden \u00f6nce yap\u0131lmas\u0131 gerekiyordu.<\/p>\n\n\n\n
Moffatt, biletleri sat\u0131n al\u0131p seyahatini tamamlad\u0131ktan sonra iade ba\u015fvurusunda bulundu. Ancak Air Canada, beklenildi\u011fi gibi bu talebi reddetti. Bunun \u00fczerine Moffatt, sohbet robotunun verdi\u011fi yan\u0131tlar\u0131n ekran g\u00f6r\u00fcnt\u00fclerini de sunarak tazminat davas\u0131 a\u00e7t\u0131.<\/p>\n\n\n\n
Air Canada savunmas\u0131nda sorumlulu\u011fu hem sohbet robotunun i\u015fleyi\u015fine hem de Moffatt\u2019\u0131n davran\u0131\u015flar\u0131na ba\u011flamaya \u00e7al\u0131\u015ft\u0131. \u015eirket, yapay zek\u00e2 sohbet robotunun kendisinden ba\u011f\u0131ms\u0131z “ayr\u0131 bir t\u00fczel ki\u015filik” (separate legal entity) olarak de\u011ferlendirilmesi gerekti\u011fini, kendi bilgi ekosistemine sahip oldu\u011funu ve verdi\u011fi hatal\u0131 yan\u0131tlardan kendisinin sorumlu tutulmas\u0131 gerekti\u011fini ileri s\u00fcrd\u00fc. Ayr\u0131ca sohbet robotunun mesaj i\u00e7inde ilgili politikaya ili\u015fkin bir ba\u011flant\u0131 payla\u015ft\u0131\u011f\u0131n\u0131; kullan\u0131c\u0131n\u0131n bu ba\u011flant\u0131ya t\u0131klayarak web sitesindeki g\u00fcncel ve do\u011fru politikay\u0131 kendi \u00e7abas\u0131yla bulmas\u0131 gerekti\u011fini savundu.<\/p>\n\n\n\n
\u015eubat 2024\u2019te British Columbia Sivil \u00c7\u00f6z\u00fcm Mahkemesi (Civil Resolution Tribunal), Air Canada\u2019n\u0131n savunmas\u0131n\u0131 reddederek t\u00fcketici lehine karar verdi. Mahkeme, sohbet robotunun ayr\u0131 bir t\u00fczel ki\u015filik olarak de\u011ferlendirilmesi gerekti\u011fi y\u00f6n\u00fcndeki iddiay\u0131 kabul etmedi. Bunun yan\u0131nda Air Canada\u2019n\u0131n, web sitesinin bir b\u00f6l\u00fcm\u00fcnde yer alan sohbet robotu yan\u0131tlar\u0131n\u0131n \u015firketin di\u011fer b\u00f6l\u00fcmlerindeki resmi bilgilerden ba\u011f\u0131ms\u0131z de\u011ferlendirilmesi gerekti\u011fi y\u00f6n\u00fcndeki savunmas\u0131n\u0131 da hakl\u0131 bulmad\u0131. Mahkemeye g\u00f6re bir kullan\u0131c\u0131dan, ayn\u0131 \u015firketin web sitesinde yer alan bilgiler aras\u0131nda hangisinin do\u011fru, hangisinin yanl\u0131\u015f oldu\u011funu kendisinin ay\u0131rt etmesini beklemek makul de\u011fildi.<\/p>\n\n\n\n
<\/a> Air Canada, Moffatt\u2019a tazminat \u00f6demek zorunda kald\u0131. Ayr\u0131 bir t\u00fczel ki\u015fili\u011fe sahip oldu\u011funu savundu\u011fu sohbet robotu ise k\u0131sa s\u00fcre sonra kullan\u0131mdan kald\u0131r\u0131ld\u0131.<\/p>\n\n\n\n
Kitaplar ve Yazarlar\u0131n Sorumlulu\u011fu<\/h2>\n\n\n\n
Sosyal medyada s\u0131k\u00e7a kar\u015f\u0131m\u0131za \u00e7\u0131kan bu karikat\u00fcr\u00fc, \u2019Tamamen ger\u00e7ek hayattan esinlenilmi\u015ftir.\u2019 notuyla payla\u015fmak hi\u00e7 de fena olmazd\u0131:<\/p>\n\n\n\n
![\"Sohbet](\"https:\/\/yarimada.gen.tr\/wp-content\/uploads\/2026\/09\/mantar-chatgpt.jpg\")
<\/a><\/figure>\n\n\n\n\u00dcretken yapay zek\u00e2 ara\u00e7lar\u0131n\u0131n yayg\u0131nla\u015fmas\u0131yla birlikte internet, bu ara\u00e7larla \u00fcretilen i\u00e7eriklerle dolmaya ba\u015flad\u0131. Benzer bir durum kitap d\u00fcnyas\u0131nda da g\u00f6r\u00fclmeye ba\u015flad\u0131. Amazon, yapay zek\u00e2 taraf\u0131ndan \u00fcretilen ve insan taraf\u0131ndan yaz\u0131lm\u0131\u015f gibi sunulan kitaplar i\u00e7in \u00f6nemli bir sat\u0131\u015f platformuna d\u00f6n\u00fc\u015ft\u00fc.<\/p>\n\n\n\n
Bu kitaplardan d\u00f6rd\u00fc, Guardian gazetesinin talebi \u00fczerine yapay zek\u00e2 taraf\u0131ndan \u00fcretilen i\u00e7erikleri tespit eden ABD merkezli Originality.ai \u015firketi taraf\u0131ndan incelendi. \u015eirket, inceledi\u011fi her kitab\u0131n yapay zek\u00e2 tespit testinde y\u00fczde 100 puan ald\u0131\u011f\u0131n\u0131 s\u00f6yledi. Bu kitaplar\u0131n ChatGPT gibi bir sohbet robotu taraf\u0131ndan \u00fcretilmi\u015f olma ihtimali son derece y\u00fcksekti (Milmo, 2023).<\/p>\n\n\n\n
Guardian\u2019\u0131n haberinde, s\u00f6z konusu kitaplarda yer alan baz\u0131 bilgilerin insan ya\u015fam\u0131 a\u00e7\u0131s\u0131ndan risk olu\u015fturabilece\u011fine dikkat \u00e7ekiliyordu. Cornwall merkezli Family Foraging Kitchen kurulu\u015funda saha gezilerinde rehber ve mantar uzman\u0131 olarak g\u00f6rev yapan Leon Frey, kitaplarda mantarlar\u0131n “koku ve tat” gibi \u00f6zelliklerle tan\u0131mlanmas\u0131n\u0131n ciddi bir hata oldu\u011funu vurguluyordu. \u00c7\u00fcnk\u00fc bu t\u00fcr ifadeler, okuyucular\u0131 mantarlar\u0131 tad\u0131m yoluyla tan\u0131mlamaya te\u015fvik edebilirdi.<\/p>\n\n\n\n
\u00d6rne\u011fin yenilebilir t\u00fcrlerle kar\u0131\u015ft\u0131r\u0131labilen ve son derece zehirli olan \u00f6l\u00fcm \u015fapkas\u0131 mantar\u0131 gibi t\u00fcrler ciddi sa\u011fl\u0131k riskleri olu\u015fturur. Ayr\u0131ca kitaplardan birinde aslan yelesi mantar\u0131ndan bahsediliyor ve bu mantar\u0131n yenilebilir oldu\u011fu belirtiliyordu. Ancak Frey\u2019in dikkat \u00e7ekti\u011fi gibi, bu t\u00fcr mantarlar \u0130ngiltere\u2019de koruma alt\u0131nda oldu\u011fundan toplanmamal\u0131d\u0131r. Bu kitaplar\u0131n yazarlar\u0131 (!) yo\u011fun ele\u015ftirilere maruz kald\u0131 ve Amazon s\u00f6z konusu kitaplar\u0131n sat\u0131\u015flar\u0131n\u0131 durdurdu.<\/p>\n\n\n\n
<\/a><\/a> E\u011fer bir ki\u015fi, \u00fcretken yapay zek\u00e2 ile olu\u015fturulan hatal\u0131 bir mantar kitab\u0131ndaki bilgiler nedeniyle zarar g\u00f6rm\u00fc\u015f olsayd\u0131, kitab\u0131n yazar\u0131 do\u011frudan birini zehirlemeyi ama\u00e7lamam\u0131\u015f olsa bile sorumluluk tart\u0131\u015fmas\u0131n\u0131n merkezinde yer alacakt\u0131.<\/p>\n\n\n\n
Sorumluluk Bo\u015flu\u011fu Nedir?<\/h1>\n\n\n\n
Yapay zek\u00e2 teknolojilerindeki geli\u015fmeler, sorumlulu\u011fa ili\u015fkin \u00f6nemli bir soruyu yeniden g\u00fcndeme ta\u015f\u0131d\u0131. Bu sistemler bazen onlar\u0131 geli\u015ftirenlerin, kullananlar\u0131n ve denetleyenlerin bile tam olarak \u00f6ng\u00f6remedi\u011fi veya neden ortaya \u00e7\u0131kt\u0131\u011f\u0131n\u0131 a\u00e7\u0131klayamad\u0131\u011f\u0131 sonu\u00e7lar \u00fcretebiliyor. B\u00f6yle durumlarda ortada bir zarar var, ancak bu zarardan kimin sorumlu tutulmas\u0131 gerekti\u011fi her zaman a\u00e7\u0131k olmuyor: bazen sorumluluk bir\u00e7ok akt\u00f6r aras\u0131nda da\u011f\u0131l\u0131yor, bazen de mevcut ahlaki ve hukuki \u00f6l\u00e7\u00fctlerle sorumlulu\u011fu hakl\u0131 bi\u00e7imde y\u00fckleyebilece\u011fimiz belirli bir ki\u015fi ya da kurum bulmak zorla\u015f\u0131yor. Bu sorun, Andreas Matthias\u2019\u0131n 2004 y\u0131l\u0131nda yay\u0131mlad\u0131\u011f\u0131 “Sorumluluk Bo\u015flu\u011fu: \u00d6\u011frenen Otomatlar\u0131n Eylemlerine Sorumluluk Atfetmek” ba\u015fl\u0131kl\u0131 makalesiyle yapay zek\u00e2 eti\u011fi literat\u00fcr\u00fcn\u00fcn temel tart\u0131\u015fmalar\u0131ndan biri h\u00e2line geldi.<\/p>\n\n\n\n
Matthias (2004), \u00e7al\u0131\u015fmas\u0131nda yapay zek\u00e2 sistemlerinin veya otonom sistemlerin neden oldu\u011fu zararlarda, hi\u00e7bir insan\u0131n (programc\u0131, \u00fcretici veya operat\u00f6r) bu sonu\u00e7tan ahlaki olarak sorumlu tutulamayabilece\u011fi durumlar\u0131 ele al\u0131yordu. Bir ki\u015fiyi bir eylemden sorumlu tuttu\u011fumuzda, o ki\u015finin kendisine y\u00f6neltilen sorular kar\u015f\u0131s\u0131nda niyetlerini ve kararlar\u0131n\u0131 hangi gerek\u00e7elere dayanarak olu\u015fturdu\u011funu a\u00e7\u0131klayabilmesini bekleriz. Ayr\u0131ca sorumlu tutulan ki\u015fi, \u00f6fke, minnettarl\u0131k, k\u0131nama veya \u00f6vg\u00fc gibi tepkisel tutumlar\u0131n muhatab\u0131 olabilir.<\/p>\n\n\n\n
Ancak bir ki\u015fiye sorumluluk atfedebilmek i\u00e7in, o ki\u015finin davran\u0131\u015flar\u0131 ve bu davran\u0131\u015flar\u0131n sonu\u00e7lar\u0131 \u00fczerinde yeterli d\u00fczeyde kontrol sahibi olmas\u0131 gerekir. Ba\u015fka bir deyi\u015fle, bir ki\u015fi ancak eylemini \u00e7evreleyen ko\u015fullar\u0131n fark\u0131ndaysa, bu ko\u015fullar\u0131 de\u011ferlendirebiliyor ve mevcut se\u00e7enekler aras\u0131ndan bilin\u00e7li bir tercih yapabiliyorsa eyleminden sorumlu tutulabilir. Geleneksel sorumluluk anlay\u0131\u015f\u0131nda, bir ki\u015finin bir makinenin davran\u0131\u015flar\u0131 hakk\u0131nda yeterli bilgiye sahip olmas\u0131 ve bu davran\u0131\u015flar \u00fczerinde belirli bir d\u00fczeyde kontrol kurabilmesi beklenir. Bir makine, \u00fcreticinin \u00f6ng\u00f6rd\u00fc\u011f\u00fc bi\u00e7imde \u00e7al\u0131\u015ft\u0131\u011f\u0131 ve kullan\u0131c\u0131 da onu kullan\u0131m talimatlar\u0131na uygun \u015fekilde i\u015fletti\u011fi s\u00fcrece, ortaya \u00e7\u0131kan sonu\u00e7lardan do\u011fan sorumluluk genellikle operat\u00f6re atfedilir. Buna kar\u015f\u0131l\u0131k, makine tasar\u0131m\u0131ndan veya \u00fcretim s\u00fcrecinden kaynaklanan ve \u00fcreticinin kontrol alan\u0131nda bulunan bir sorun nedeniyle beklenmeyen sonu\u00e7lar ortaya \u00e7\u0131karsa sorumluluk \u00fcreticiye y\u00f6nelebilir.<\/p>\n\n\n\n
Bu yakla\u015f\u0131m\u0131n temelinde, sorumluluk atfetmenin \u00f6n ko\u015fullar\u0131ndan birinin eylemler ve sonu\u00e7lar \u00fczerinde yeterli denetime sahip olmak oldu\u011fu d\u00fc\u015f\u00fcncesi yer al\u0131r. Kullan\u0131m k\u0131lavuzlar\u0131, bir cihaz\u0131n hangi ko\u015fullarda ve nas\u0131l kullan\u0131laca\u011f\u0131n\u0131 belirleyerek, kullan\u0131c\u0131 ile \u00fcreticinin sorumluluk alanlar\u0131n\u0131n ayr\u0131lmas\u0131na yard\u0131mc\u0131 olur. B\u00f6ylece operat\u00f6r, cihaz\u0131 \u00fcreticinin \u00f6ng\u00f6rd\u00fc\u011f\u00fc s\u0131n\u0131rlar i\u00e7inde ve sonu\u00e7lar\u0131 b\u00fcy\u00fck \u00f6l\u00e7\u00fcde tahmin edilebilir bir bi\u00e7imde kullanabilir.<\/p>\n\n\n\n
Operat\u00f6r\u00fcn makine \u00fczerindeki denetim kapasitesi azald\u0131k\u00e7a, ortaya \u00e7\u0131kan sonu\u00e7lardan onu sorumlu tutmak da zorla\u015f\u0131r. Matthias (2004), bu durumu D\u00fcnya\u2019dan bir Mars arac\u0131n\u0131 uzaktan kontrol eden teknisyen \u00f6rne\u011fiyle a\u00e7\u0131klar. Mars\u2019taki bir kum f\u0131rt\u0131nas\u0131 nedeniyle arac\u0131n alg\u0131lama kapasitesi azal\u0131r ve D\u00fcnya ile ara\u00e7 aras\u0131ndaki ileti\u015fim gecikmeleri m\u00fcdahale olana\u011f\u0131n\u0131 s\u0131n\u0131rlar. Bu ko\u015fullar alt\u0131nda ara\u00e7 bir \u00e7ukura d\u00fc\u015ferek kaybolursa, teknisyenin bu kay\u0131ptan sorumlu tutulmas\u0131n\u0131n hakl\u0131 olmayaca\u011f\u0131n\u0131 savunur. Hatta b\u00f6yle bir durumda, ortaya \u00e7\u0131kan sonu\u00e7tan a\u00e7\u0131k\u00e7a sorumlu tutulabilecek belirli bir ki\u015fi bulmak da zordur.<\/p>\n\n\n\n
G\u00fcn\u00fcm\u00fczde giderek artan sorun ise denetim kayb\u0131n\u0131n yaln\u0131zca fiziksel uzakl\u0131k veya ileti\u015fim gecikmesi gibi ola\u011fand\u0131\u015f\u0131 durumlarda ortaya \u00e7\u0131kmamas\u0131d\u0131r. \u00d6\u011frenen makineler, kullan\u0131ma sunulduktan sonra yeni verilerle kar\u015f\u0131la\u015farak davran\u0131\u015flar\u0131n\u0131 de\u011fi\u015ftirebilir ve geli\u015ftiricilerinin ba\u015flang\u0131\u00e7ta \u00f6ng\u00f6rmedi\u011fi sonu\u00e7lar \u00fcretebilir. Bu nedenle ortaya \u00e7\u0131kan eylemler, her zaman yarat\u0131c\u0131lar\u0131n\u0131n do\u011frudan niyetleri veya ba\u015flang\u0131\u00e7taki programlama tercihleriyle a\u00e7\u0131klanamayabilir Matthias (2004).<\/p>\n\n\n\n
<\/a>Geleneksel sorumluluk atfetme yakla\u015f\u0131mlar\u0131 b\u00f6yle durumlarda yetersiz kal\u0131r. \u00c7\u00fcnk\u00fc hi\u00e7 kimse sistemin belirli bir eylemi \u00fczerinde yeterli d\u00fczeyde kontrole sahip de\u011fildir. Bu durum, yapay zek\u00e2 eti\u011fi literat\u00fcr\u00fcnde “sorumluluk bo\u015flu\u011fu” olarak tart\u0131\u015f\u0131l\u0131r.<\/p>\n\n\n\n
Matthias\u2019tan Sonra Sorumluluk Bo\u015flu\u011fu<\/h1>\n\n\n\n
Sorumluluk bo\u015flu\u011fu tart\u0131\u015fmalar\u0131n\u0131n \u00e7o\u011funlukla otomatik s\u00fcr\u00fc\u015f \u00f6zelliklerine sahip ara\u00e7lar\u0131n kazalar\u0131 veya katil robotlar gibi \u00f6rnekler \u00fczerinden y\u00fcr\u00fct\u00fclmesinde, Matthias\u2019\u0131n (2004) ve Sparrow\u2019un (2007) \u00f6\u011frenen sistemlerin \u00f6ng\u00f6r\u00fclemezli\u011fine yapt\u0131\u011f\u0131 vurgunun \u00f6nemli bir rol\u00fc vard\u0131r. Ancak Santoni de Sio ve Mecacci\u2019nin (2021) de belirtti\u011fi gibi, sorumluluk bo\u015flu\u011fu sorununu yaln\u0131zca bu t\u00fcr teknolojik sistemlerle s\u0131n\u0131rl\u0131 g\u00f6rmek do\u011fru de\u011fildir.<\/p>\n\n\n\n
B\u00fcrokrasiler ve \u015firketler gibi karma\u015f\u0131k \u00f6rg\u00fctsel akt\u00f6rler de kendi yap\u0131lar\u0131 nedeniyle sorumluluk atfetme konusunda benzer sorunlara yol a\u00e7abilir. Bu problem klasik olarak “\u00e7ok say\u0131da el problemi” (the problem of many hands) ad\u0131yla bilinir.<\/p>\n\n\n\n
\u00c7ok say\u0131da el problemi, ilk bak\u0131\u015fta sorumluluk bo\u015flu\u011funun kar\u015f\u0131t\u0131 gibi g\u00f6r\u00fcn\u00fcr. Sorumluluk bo\u015flu\u011funda ortada bir zarar vard\u0131r ancak sorumlu tutulabilecek belirli bir ki\u015fi bulmak zordur. \u00c7ok say\u0131da el probleminde ise aksine, s\u00fcrece dahil olan \u00e7ok say\u0131da ki\u015fi ve kurumsal akt\u00f6r vard\u0131r. Ancak sorumluluk \u00e7ok say\u0131da akt\u00f6re da\u011f\u0131ld\u0131\u011f\u0131 i\u00e7in belirli bir ki\u015finin ne \u00f6l\u00e7\u00fcde sorumlu oldu\u011fu belirsizle\u015fir. Sonu\u00e7ta her iki durumda da benzer bir sorun ortaya \u00e7\u0131kar: Ortaya \u00e7\u0131kan sonu\u00e7tan kimin sorumlu tutulaca\u011f\u0131 a\u00e7\u0131k de\u011fildir.<\/p>\n\n\n\n
\u00c7ok say\u0131da el problemi ku\u015fkusuz yapay zek\u00e2dan \u00f6nce de var olan bir sorundur. Ancak yapay zek\u00e2, bir yandan bu problemin yeni bi\u00e7imlerini ortaya \u00e7\u0131kar\u0131rken di\u011fer yandan onu daha g\u00f6r\u00fcn\u00fcr h\u00e2le getirmi\u015ftir. Ayr\u0131ca karar verme s\u00fcre\u00e7lerinde yapay zek\u00e2 ve veri odakl\u0131 sistemlerin kullan\u0131lmas\u0131, bireylerin ahlaki ve hukuki sorumluluk i\u00e7in geleneksel olarak aranan ko\u015fullar\u0131 (niyet, \u00f6ng\u00f6r\u00fclebilirlik ve kontrol) yerine getirmesini zorla\u015ft\u0131ran yeni bir teknik belirsizlik ve a\u00e7\u0131klanamazl\u0131k boyutu eklemektedir (Santoni de Sio ve Mecacci, 2021) .<\/p>\n\n\n\n
Matthias\u2019\u0131n (2004) \u00e7al\u0131\u015fmas\u0131n\u0131n bir di\u011fer \u00f6zelli\u011fi, ger\u00e7ekle\u015fmi\u015f olumsuz sonu\u00e7lara, yani ortaya \u00e7\u0131km\u0131\u015f zararlara odaklanmas\u0131d\u0131r. Sonraki bir\u00e7ok \u00e7al\u0131\u015fma da benzer bi\u00e7imde, meydana gelen zararlar\u0131n ard\u0131ndan sorumlulu\u011fun nas\u0131l atfedilece\u011fi sorusunu ele alm\u0131\u015ft\u0131r. Buna kar\u015f\u0131l\u0131k Nyholm\u2019un (2023) yakla\u015f\u0131m\u0131, sorumluluk bo\u015flu\u011fu tart\u0131\u015fmas\u0131n\u0131 yaln\u0131zca ge\u00e7mi\u015fte ya\u015fanm\u0131\u015f zararlarla s\u0131n\u0131rlamay\u0131p hen\u00fcz ger\u00e7ekle\u015fmemi\u015f durumlar\u0131 ve olumlu sonu\u00e7lar\u0131 da dikkate alarak geni\u015fletmektedir.<\/p>\n\n\n\n
<\/a> B\u00f6ylece sorumluluk bo\u015flu\u011fu tart\u0131\u015fmas\u0131 yaln\u0131zca hatalar\u0131n ve zararlar\u0131n ard\u0131ndan kimin sorumlu tutulaca\u011f\u0131 sorusuyla s\u0131n\u0131rl\u0131 kalmaz. Ayn\u0131 zamanda gelecekteki zararlar\u0131 \u00f6nlemede kimin sorumluluk ta\u015f\u0131d\u0131\u011f\u0131, ba\u015far\u0131lar\u0131n ve katk\u0131lar\u0131n kime atfedilece\u011fi gibi sorular da tart\u0131\u015fmaya dahil edilir.<\/p>\n\n\n\n
D\u00f6rt Farkl\u0131 Sorumluluk Bo\u015flu\u011fu<\/h1>\n\n\n\n
Matthias (2004), sorumluluk atfedilen ki\u015finin yaln\u0131zca ele\u015ftiri ve k\u0131naman\u0131n de\u011fil ayn\u0131 zamanda minnettarl\u0131k ve \u00f6vg\u00fc gibi tepkisel tutumlar\u0131n da muhatab\u0131 olabilece\u011fini belirtir. Ba\u015fka bir deyi\u015fle, sorumluluk kavram\u0131 yaln\u0131zca hatalar ve zararlar kar\u015f\u0131s\u0131nda kimin su\u00e7lanaca\u011f\u0131 sorusuyla s\u0131n\u0131rl\u0131 de\u011fildir. Ba\u015far\u0131lar\u0131n ve olumlu sonu\u00e7lar\u0131n kime atfedilece\u011fi sorusunu da i\u00e7erir.<\/p>\n\n\n\n
Ayr\u0131ca sorumluluk yaln\u0131zca ge\u00e7mi\u015fte ger\u00e7ekle\u015fmi\u015f eylemlerle ilgili de\u011fildir. Gelecekte ortaya \u00e7\u0131kabilecek durumlar\u0131 etkilemek, olumsuz sonu\u00e7lar\u0131 \u00f6nlemek veya olumlu sonu\u00e7lar\u0131n ortaya \u00e7\u0131kmas\u0131na katk\u0131da bulunmak da sorumluluk kapsam\u0131nda de\u011ferlendirilebilir. Bu nedenle Nyholm (2023), sorumluluk bo\u015flu\u011fu tart\u0131\u015fmas\u0131n\u0131 iki farkl\u0131 eksende (ge\u00e7mi\u015f-gelecek ve olumlu-olumsuz) ele alarak d\u00f6rt kategoriye ay\u0131r\u0131r:<\/p>\n\n\n\n
- \n
- Ge\u00e7mi\u015fe d\u00f6n\u00fck olumsuz sorumluluk bo\u015fluklar\u0131:<\/strong> Bir zarar oldu, ama kimi su\u00e7layaca\u011f\u0131m\u0131z belirsiz.<\/li>\n\n\n\n
- Ge\u00e7mi\u015fe d\u00f6n\u00fck olumlu sorumluluk bo\u015fluklar\u0131:<\/strong> Bir ba\u015far\u0131 oldu, ama kimi takdir edece\u011fimiz belirsiz.<\/li>\n\n\n\n
- Gelece\u011fe d\u00f6n\u00fck olumsuz sorumluluk bo\u015fluklar\u0131:<\/strong> Gelecekteki zarar\u0131 \u00f6nleme g\u00f6revi kime ait?<\/li>\n\n\n\n
- Gelece\u011fe d\u00f6n\u00fck olumlu sorumluluk bo\u015fluklar\u0131:<\/strong> Gelecekteki fayday\u0131 ger\u00e7ekle\u015ftirme sorumlulu\u011fu kime ait?<\/li>\n<\/ol>\n\n\n\n
Ge\u00e7mi\u015fe d\u00f6n\u00fck olumsuz sorumluluk bo\u015fluklar\u0131,<\/strong> olmu\u015f bir \u015feyden kimin sorumlu olaca\u011f\u0131 ile ilgilidir. Yaz\u0131da \u015fimdiye kadar verdi\u011fim \u00f6rnekler bu ba\u011flamda de\u011ferlendirilebilir. Olumsuz bir durum ger\u00e7ekle\u015fmi\u015ftir ve bunun sorumlusu aranmaktad\u0131r. Ancak kimin hakl\u0131 olarak sorumlu tutulabilece\u011fi belirsizdir.<\/p>\n\n\n\n
Ge\u00e7mi\u015fe d\u00f6n\u00fck olumlu sorumluluk bo\u015fluklar\u0131,<\/strong> bilgisayarlar\u0131n bir\u00e7ok alanda insanlardan daha ba\u015far\u0131l\u0131 sonu\u00e7lar \u00fcretmesi veya insanlar\u0131n ba\u015far\u0131lar\u0131nda \u00f6nemli bir rol oynamas\u0131yla birlikte daha g\u00f6r\u00fcn\u00fcr h\u00e2le gelmi\u015ftir. \u0130nsanlar, ortaya \u00e7\u0131kan iyi sonu\u00e7lara yapt\u0131klar\u0131 katk\u0131lar nedeniyle \u00f6v\u00fclebilir veya \u00f6d\u00fcllendirilebilir. Ancak olumlu bir sonu\u00e7 ortaya \u00e7\u0131kt\u0131\u011f\u0131nda, kimin \u00f6vg\u00fcy\u00fc hak etti\u011fi veya ba\u015far\u0131n\u0131n kime atfedilmesi gerekti\u011fi belirsizse bir sorumluluk bo\u015flu\u011fu ortaya \u00e7\u0131kar.<\/p>\n\n\n\n
Nyholm (2023), bu durumu a\u00e7\u0131klamak i\u00e7in Google DeepMind taraf\u0131ndan geli\u015ftirilen AlphaGo ile Go ustas\u0131 Lee Sedol aras\u0131ndaki ma\u00e7\u0131 \u00f6rnek g\u00f6sterir. AlphaGo, ma\u00e7tan \u00f6nce kendi kendine oynad\u0131\u011f\u0131 \u00e7ok say\u0131da oyunla m\u00fckemmelle\u015fir. Ma\u00e7 s\u0131ras\u0131nda ise muhtemelen AlphaGo\u2019yu geli\u015ftiren ki\u015filerin hi\u00e7biri, sistemin \u00fcretti\u011fi stratejileri ve belirli hamlelerin ard\u0131ndaki gerek\u00e7eleri tam olarak anlamamaktad\u0131r. \u00d6te yandan oyunu fiziksel olarak oynayan ki\u015fi de AlphaGo\u2019nun neden belirli hamleleri se\u00e7ti\u011fini bilmeden, sistemin \u00f6nerdi\u011fi hamleleri tahtaya uygular.<\/p>\n\n\n\n
Bu y\u00f6n\u00fcyle durum, John Searle\u2019\u00fcn \u00fcnl\u00fc \u00c7in Odas\u0131 d\u00fc\u015f\u00fcnce deneyini hat\u0131rlat\u0131r. A\u00e7\u0131k se\u00e7ik bir ba\u015far\u0131 vard\u0131r: AlphaGo, d\u00fcnya \u015fampiyonu Lee Sedol\u2019u yenmi\u015ftir. Ancak bu ba\u015far\u0131n\u0131n kime atfedilece\u011fi sorusu kolayca yan\u0131tlanamaz. Sistemi geli\u015ftiren insanlar mi, hamleleri uygulayan oyuncu mu, yoksa kendi kendine \u00f6\u011frenen yapay zek\u00e2 sistemi mi bu ba\u015far\u0131n\u0131n as\u0131l sahibi olarak g\u00f6r\u00fclmelidir?<\/p>\n\n\n\n
Nyholm\u2019un (2023) yakla\u015f\u0131m\u0131, sorumluluk bo\u015flu\u011funu sorununu bir a\u015fma giri\u015fimi olmaktan \u00e7ok, yapay zek\u00e2 sistemlerinin yayg\u0131nla\u015fmas\u0131yla kar\u015f\u0131la\u015faca\u011f\u0131m\u0131z yeni sorunlar\u0131 g\u00f6r\u00fcn\u00fcr h\u00e2le getirir. \u00d6rne\u011fin otomasyon ve robotla\u015fmayla birlikte bir\u00e7ok alanda daha fazla g\u00f6revin yapay zek\u00e2 sistemlerine veya robotlara devredilece\u011fi \u00f6ng\u00f6r\u00fclmektedir. Bu durumun kitlesel i\u015fsizli\u011fe mi yol a\u00e7aca\u011f\u0131, yoksa yeni i\u015fler mi yarataca\u011f\u0131 s\u0131k\u00e7a tart\u0131\u015f\u0131lmaktad\u0131r.<\/p>\n\n\n\n
Ancak mesele yaln\u0131zca istihdam de\u011fildir. \u0130\u015f, insanlar\u0131n yaln\u0131zca gelir elde etti\u011fi bir faaliyet de\u011fil, ayn\u0131 zamanda anlam, ba\u015far\u0131 ve takdir duygusu kazand\u0131\u011f\u0131 bir aland\u0131r; bu f\u0131rsatlar\u0131n azalmas\u0131 da kendi ba\u015f\u0131na bir sorun olu\u015fturabilir. \u0130nsan, \u00fcrettik\u00e7e insan olur. Elbette \u00fcretim s\u00fcrecinin hangi \u00fcretim tarz\u0131nda ger\u00e7ekle\u015fti\u011fi \u00f6nemli bir konudur. Ama insan\u0131n \u00fcretici etkinli\u011fi, \u00f6zellikle yarat\u0131c\u0131l\u0131\u011f\u0131n\u0131 sergileyebilme olana\u011f\u0131 buldu\u011fu alanlarda, sekteye u\u011frad\u0131\u011f\u0131nda bamba\u015fka sonu\u00e7lar do\u011fabilir.<\/p>\n\n\n\n
\u00d6rne\u011fin, t\u0131p alan\u0131nda doktorlar\u0131n rol\u00fc hastalar\u0131n\u0131n durumunu de\u011ferlendirmekten \u00e7ok, yapay zek\u00e2 sistemlerinin yapt\u0131\u011f\u0131 de\u011ferlendirmeleri hastalara aktarmaya indirgenirse, bu durum hekimlik mesle\u011fiyle ili\u015fkilendirdi\u011fimiz insani unsurlar\u0131 ve profesyonel \u00f6zerkli\u011fi zay\u0131flatabilir. Benzer bi\u00e7imde, \u00f6nemli bir bilimsel ke\u015fif bir insan ara\u015ft\u0131rmac\u0131 taraf\u0131ndan de\u011fil, bir yapay zek\u00e2 sistemi taraf\u0131ndan ger\u00e7ekle\u015ftirilirse, ortaya \u00e7\u0131kan ba\u015far\u0131n\u0131n kime atfedilece\u011fi belirsizle\u015febilir. E\u011fer ke\u015ffe yol a\u00e7an temel analizler, \u00f6r\u00fcnt\u00fcleri bulan ve ili\u015fkileri ortaya \u00e7\u0131karan yapay zek\u00e2 sistemi taraf\u0131ndan ger\u00e7ekle\u015ftirilmi\u015fse, insan ara\u015ft\u0131rmac\u0131lar\u0131n bu ba\u015far\u0131daki pay\u0131 nas\u0131l de\u011ferlendirilecektir?<\/p>\n\n\n\n
Olumlu bir sonu\u00e7 ortaya \u00e7\u0131kmas\u0131na ra\u011fmen bu ba\u015far\u0131n\u0131n sahibi olarak g\u00f6r\u00fclebilecek a\u00e7\u0131k bir ki\u015fi bulunamayabilir. Sorumluluk bo\u015flu\u011fu kavram\u0131, yaln\u0131zca hatalar ve zararlar kar\u015f\u0131s\u0131nda kimin hesap verece\u011fini de\u011fil, ba\u015far\u0131lar kar\u015f\u0131s\u0131nda kimin takdiri hak etti\u011fini ve bunun olas\u0131 sonu\u00e7lar\u0131n\u0131 sorgulamam\u0131z\u0131 sa\u011flar.<\/p>\n\n\n\n
Gelece\u011fe d\u00f6n\u00fck olumsuz sorumluluk bo\u015fluklar\u0131nda<\/strong> temel soru, bir zarar ortaya \u00e7\u0131kt\u0131ktan sonra kimin sorumlu tutulaca\u011f\u0131 de\u011fil; zarar ortaya \u00e7\u0131kmadan \u00f6nce onu \u00f6nleme sorumlulu\u011funun kime ait oldu\u011fudur. Ba\u015fka bir deyi\u015fle burada ama\u00e7, yaln\u0131zca ge\u00e7mi\u015fte ger\u00e7ekle\u015fmi\u015f bir olay i\u00e7in sorumlu aramak de\u011fil, gelecekte ortaya \u00e7\u0131kabilecek olumsuz sonu\u00e7lar\u0131 engellemekle y\u00fck\u00fcml\u00fc akt\u00f6rleri belirleyebilmektir.<\/p>\n\n\n\n
\u00c7\u00fcnk\u00fc bir zarar riski varsa, bu riske kar\u015f\u0131 \u00f6nlem alma sorumlulu\u011funu ta\u015f\u0131yan bir akt\u00f6r\u00fcn de bulunmas\u0131 beklenir. Ancak \u00f6zellikle karma\u015f\u0131k yapay zek\u00e2 sistemlerinde, bu sorumlulu\u011fun kimde oldu\u011fu veya kime atanmas\u0131 gerekti\u011fi her zaman a\u00e7\u0131k de\u011fildir.<\/p>\n\n\n\n
\u00d6rne\u011fin, s\u00fcr\u00fcc\u00fcs\u00fcz bir arac\u0131n y\u00fcksek h\u0131zda ilerledi\u011fini ve yolundaki bir ki\u015fiye \u00e7arpma riski ta\u015f\u0131d\u0131\u011f\u0131n\u0131 varsayal\u0131m. Ara\u00e7 birine \u00e7arpar ve zarar ortaya \u00e7\u0131karsa, olay sonras\u0131nda “kim sorumlu tutulmal\u0131d\u0131r?” sorusu g\u00fcndeme gelir. Bu, ge\u00e7mi\u015fe d\u00f6n\u00fck olumsuz bir sorumluluk bo\u015flu\u011fu problemidir. Ancak ayn\u0131 kazan\u0131n hen\u00fcz ger\u00e7ekle\u015fmedi\u011fi bir durumda, bu t\u00fcr bir riski \u00f6ng\u00f6rerek gerekli \u00f6nlemleri alma ve kazay\u0131 \u00f6nleme sorumlulu\u011funun kime ait oldu\u011fu sorusu daha kritik bir h\u00e2le gelir.<\/p>\n\n\n\n
Gelece\u011fe d\u00f6n\u00fck olumlu sorumluluk bo\u015fluklar\u0131nda,<\/strong> gelecekte iyi bir sonu\u00e7 \u00fcretme f\u0131rsat\u0131n\u0131n bulundu\u011fu ve bu sonucun ortaya \u00e7\u0131kmas\u0131na katk\u0131da bulunma sorumlulu\u011funun bir akt\u00f6re atfedilmesinin uygun olaca\u011f\u0131 varsay\u0131l\u0131r. Ancak bu sorumlulu\u011fu \u00fcstlenecek belirli bir ki\u015fi veya kurum bulunmayabilir.<\/p>\n\n\n\n
Olumlu sonu\u00e7lar\u0131n ortaya \u00e7\u0131kmas\u0131n\u0131 te\u015fvik edecek bi\u00e7imde davranmak, hem bir\u00e7ok ahlak teorisinde hem de g\u00fcndelik ahlak anlay\u0131\u015f\u0131nda de\u011ferli ve erdemli bir davran\u0131\u015f olarak g\u00f6r\u00fcl\u00fcr. Bununla birlikte, gelecekte ortaya \u00e7\u0131kabilecek iyilikleri ger\u00e7ekle\u015ftirmek i\u00e7in harekete ge\u00e7me y\u00fck\u00fcml\u00fcl\u00fc\u011f\u00fc, zararlar\u0131 \u00f6nleme y\u00fck\u00fcml\u00fcl\u00fc\u011f\u00fcyle ayn\u0131 \u015fekilde ele al\u0131nmaz.<\/p>\n\n\n\n
\u00d6rne\u011fin, sezgisel olarak insanlar, neden olduklar\u0131 zararlardan, neden olmad\u0131klar\u0131 faydalardan daha fazla sorumlu olduklar\u0131n\u0131 d\u00fc\u015f\u00fcn\u00fcrler. Bu nedenle t\u0131p eti\u011finde “zarar vermeme” ilkesi temel bir ahlaki y\u00fck\u00fcml\u00fcl\u00fck olarak kabul edilirken, her durumda aktif bi\u00e7imde fayda sa\u011flama y\u00fck\u00fcml\u00fcl\u00fc\u011f\u00fcn\u00fcn bulundu\u011fu konusunda ayn\u0131 \u00f6l\u00e7\u00fcde uzla\u015fma yoktur.<\/p>\n\n\n\n
<\/a>Gelecekte yapay zek\u00e2 sistemleri sayesinde elde edilebilecek olumlu sonu\u00e7lar s\u00f6z konusu oldu\u011funda da farkl\u0131 bir sorun ortaya \u00e7\u0131kar. Bir yapay zek\u00e2 sistemi \u00f6nemli bir bilimsel ke\u015ffe, toplumsal faydaya veya ba\u015fka bir olumlu sonuca katk\u0131da bulunma potansiyeline sahipse, bu sonucun ger\u00e7ekle\u015fmesine yard\u0131mc\u0131 olmak ku\u015fkusuz de\u011ferli bir \u00e7aba olarak g\u00f6r\u00fclebilir. Ancak b\u00f6yle bir sonucu ger\u00e7ekle\u015ftirmek i\u00e7in aktif olarak \u00e7aba g\u00f6stermenin kimin sorumlulu\u011fu oldu\u011fu belirsiz kalabilir. \u0130\u015fte bu durum, gelece\u011fe d\u00f6n\u00fck olumlu bir sorumluluk bo\u015flu\u011funu olu\u015fturur. Teknoloji \u015firketlerinin belirleyici akt\u00f6rler h\u00e2line geldi\u011fi ve yapay zek\u00e2 teknolojilerinin toplumun geneli i\u00e7in do\u011furaca\u011f\u0131 sonu\u00e7lar\u0131n hen\u00fcz tam olarak \u00f6ng\u00f6r\u00fclemedi\u011fi bir gelecekte, bu t\u00fcr sorumluluk bo\u015fluklar\u0131 daha da endi\u015fe verici h\u00e2le gelmektedir.<\/p>\n\n\n\n
Sorumluluk Bo\u015fluklar\u0131ndaki Asimetriler<\/h1>\n\n\n\n
Nyholm (2023), sorumluluk bo\u015fluklar\u0131 aras\u0131nda iki \u00f6nemli asimetriye dikkati \u00e7eker:<\/p>\n\n\n\n
\u0130lk asimetri, ge\u00e7mi\u015fe d\u00f6n\u00fck olumsuz ve ge\u00e7mi\u015fe d\u00f6n\u00fck olumlu sorumluluk bo\u015fluklar\u0131 aras\u0131ndad\u0131r. Bir zarar ortaya \u00e7\u0131kt\u0131\u011f\u0131nda insanlar genellikle sorumlulu\u011fu \u00fcstlenmek yerine ba\u015fkas\u0131na y\u00fcklemeye \u00e7al\u0131\u015f\u0131rlar. Yaz\u0131n\u0131n ba\u015f\u0131ndaki Tesla, Workday ve Air Canada \u00f6rneklerinde de \u015firketlerin ilk tepkisi b\u00fcy\u00fck \u00f6l\u00e7\u00fcde bu y\u00f6nde olmu\u015ftur. Bu durum \u015fa\u015f\u0131rt\u0131c\u0131 de\u011fildir. \u00c7\u00fcnk\u00fc olumsuz bir sonucun sorumlulu\u011funu \u00fcstlenmek, ele\u015ftirilere maruz kalmay\u0131, itibar kayb\u0131n\u0131, hukuki yapt\u0131r\u0131mlar\u0131 ve hatta cezai sorumlulu\u011fu beraberinde getirebilir. Buna kar\u015f\u0131l\u0131k ba\u015far\u0131l\u0131 bir sonu\u00e7 ortaya \u00e7\u0131kt\u0131\u011f\u0131nda insanlar \u00e7o\u011fu zaman bu ba\u015far\u0131n\u0131n kendi katk\u0131lar\u0131yla ger\u00e7ekle\u015fti\u011fini g\u00f6stermeye ve \u00f6vg\u00fcn\u00fcn kendilerine y\u00f6nelmesini istemeye daha isteklidir. Takdir g\u00f6rmek, \u00f6d\u00fcllendirilmek ve mesleki itibar kazanmak g\u00fc\u00e7l\u00fc motivasyonlard\u0131r.<\/p>\n\n\n\n
Bu nedenle yapay zek\u00e2 sistemlerinin yol a\u00e7t\u0131\u011f\u0131 olumsuz sonu\u00e7larda sorumlulu\u011fu \u00fcstlenmeye g\u00f6n\u00fcll\u00fc akt\u00f6rler bulmak, ayn\u0131 sistemlerin ortaya \u00e7\u0131kard\u0131\u011f\u0131 ba\u015far\u0131l\u0131 sonu\u00e7larda \u00f6vg\u00fcy\u00fc \u00fcstlenmeye g\u00f6n\u00fcll\u00fc akt\u00f6rler bulmaktan \u00e7ok daha zordur. Hatta baz\u0131 durumlarda insanlar, ba\u015far\u0131n\u0131n b\u00fcy\u00fck \u00f6l\u00e7\u00fcde yapay zek\u00e2 sisteminin katk\u0131s\u0131yla ortaya \u00e7\u0131km\u0131\u015f olmas\u0131na ra\u011fmen \u00f6vg\u00fcn\u00fcn kendilerine ait oldu\u011funu ileri s\u00fcrebilirler.<\/p>\n\n\n\n
\u0130kinci asimetri ise ge\u00e7mi\u015fe d\u00f6n\u00fck olumlu sorumluluk bo\u015fluklar\u0131 ile gelece\u011fe d\u00f6n\u00fck olumlu sorumluluk bo\u015fluklar\u0131 aras\u0131ndad\u0131r. \u0130nsanlar ger\u00e7ekle\u015fmi\u015f bir ba\u015far\u0131n\u0131n sahibi olduklar\u0131n\u0131 iddia etmeye genellikle isteklidir. Buna kar\u015f\u0131l\u0131k, ayn\u0131 ba\u015far\u0131y\u0131 gelecekte ortaya \u00e7\u0131karmak i\u00e7in sorumluluk \u00fcstlenmeye ve gerekli \u00e7abay\u0131 g\u00f6stermeye daha az isteklidirler. Bunun temel nedeni, iki durumun maliyetlerinin farkl\u0131 olmas\u0131d\u0131r. Ger\u00e7ekle\u015fmi\u015f bir ba\u015far\u0131ya ortak olmak \u00e7o\u011fu zaman d\u00fc\u015f\u00fck maliyetli, hatta kazan\u00e7l\u0131d\u0131r; sayg\u0131nl\u0131k, \u00f6vg\u00fc ve \u00e7e\u015fitli \u00f6d\u00fcller getirebilir. Oysa gelecekte olumlu bir sonucun ortaya \u00e7\u0131kmas\u0131n\u0131 sa\u011flamak i\u00e7in sorumluluk \u00fcstlenmek zaman, emek, kaynak ve f\u0131rsat maliyetleri gerektirir. Bu nedenle insanlar ba\u015far\u0131 ortaya \u00e7\u0131kt\u0131ktan sonra onun bir par\u00e7as\u0131 olmak istemeye, ba\u015far\u0131 hen\u00fcz ortada yokken ise onu ger\u00e7ekle\u015ftirme sorumlulu\u011funu \u00fcstlenmekten ka\u00e7\u0131nmaya daha yatk\u0131nd\u0131rlar.<\/p>\n\n\n\n
<\/a> Dolay\u0131s\u0131yla g\u00fcn\u00fcm\u00fczde yapay zek\u00e2 etraf\u0131nda olu\u015fan co\u015fkuyu ve kamu ile \u00f6zel sekt\u00f6rdeki akt\u00f6rlerin sorumluluk alma konusundaki tutumlar\u0131n\u0131, Nyholm\u2019un (2023) ortaya koydu\u011fu bu asimetriler \u0131\u015f\u0131\u011f\u0131nda birlikte de\u011ferlendirmek yararl\u0131 olabilir. Yapay zek\u00e2yla “bir \u015feyler” yapmak ve alk\u0131\u015f almak isteyen \u00e7ok say\u0131da ki\u015fi ve kurum var. Ancak s\u0131ra sorumluluklar\u0131n belirlenmesine geldi\u011finde, bu co\u015fkunun yerini \u00e7o\u011fu zaman sessizlik alabiliyor.<\/p>\n\n\n\n
Sonu\u00e7<\/h1>\n\n\n\n
Yapay zek\u00e2dan \u00f6nce var olan ama yapay zek\u00e2yla geni\u015fleyen ve artan sorumluluk bo\u015fluklar\u0131 var. Ku\u015fkusuz t\u00fcm sorumluluk bo\u015fluklar\u0131n\u0131n a\u015f\u0131lmas\u0131 olanakl\u0131 de\u011fil. Ama yine de bu bo\u015fluklar\u0131n azalt\u0131lmas\u0131n\u0131 hedefleyen \u00f6neriler ve reg\u00fclasyon \u00e7al\u0131\u015fmalar\u0131 var.<\/p>\n\n\n\n
\u00d6rne\u011fin Nyholm (2023), sorumluluk bo\u015fluklar\u0131n\u0131 ele al\u0131rken yapay zek\u00e2 destekli otonom sistemleri insan-makine ekiplerinin bir par\u00e7as\u0131 olarak de\u011ferlendirmeyi \u00f6neriyor. Bu yakla\u015f\u0131mda insanlar y\u00f6netici, g\u00f6zetici veya denetleyici roller \u00fcstlenir ve hiyerar\u015fik bir ekipteki liderlere benzer sorumluluklar ta\u015f\u0131yabilirler.<\/p>\n\n\n\n
Askeri bir birlikteki komutan, bir operasyon s\u0131ras\u0131nda birlik i\u00e7indeki askerlerin eylemlerinden belirli \u00f6l\u00e7\u00fcde sorumludur. E\u011fer askeri robotlar da bu birli\u011fin par\u00e7as\u0131 olur ve belirli bir i\u015flevsel \u00f6zerklikle \u00e7al\u0131\u015f\u0131rsa komutan\u0131n sorumlulu\u011fu yaln\u0131zca insan askerlerin eylemleriyle s\u0131n\u0131rl\u0131 olmayabilir. Uygun ko\u015fullarda robotlar\u0131n eylemlerini de kapsayabilir.<\/p>\n\n\n\n
Ayr\u0131ca Nyholm (2023), yapay zek\u00e2 destekli otonom bir sistemin eylemlerinden kimin sorumlu tutulabilece\u011fini belirlemek i\u00e7in \u015fu t\u00fcr sorular sorulmas\u0131n\u0131 \u00f6nerir:<\/p>\n\n\n\n
- \n
- \u015eu anda “otomatik pilot” veya “otonom” modda \u00e7al\u0131\u015fan teknoloji kimin g\u00f6zetimi ve az \u00e7ok do\u011frudan kontrol\u00fc alt\u0131nda bulunmaktad\u0131r?<\/li>\n\n\n\n
- Teknolojiyi kim ba\u015flatabilir, \u00e7al\u0131\u015fmas\u0131n\u0131 devralabilir veya durdurabilir?<\/li>\n\n\n\n
- Teknoloji otonom modda \u00e7al\u0131\u015f\u0131rken kimin tercihlerine uygun bi\u00e7imde hareket etmektedir?<\/li>\n\n\n\n
- Teknoloji aktif durumdayken ger\u00e7ek davran\u0131\u015f\u0131n\u0131 g\u00f6zlemlemek ve izlemek i\u00e7in kim daha iyi konumdad\u0131r?<\/li>\n\n\n\n
- Teknolojinin i\u015fleyi\u015fini en az\u0131ndan genel d\u00fczeyde kim anlayabilir?<\/li>\n\n\n\n
- Teknolojiyi kim g\u00fcncelleyebilir veya g\u00fcncelleme talebinde bulunabilir?<\/li>\n<\/ul>\n\n\n\n
Bu sorulara verilen yan\u0131tlar belirli bir ki\u015fi veya ki\u015fi grubunu i\u015faret ediyorsa, yapay zek\u00e2 sisteminin i\u015fleyi\u015finden sorumlulu\u011fun bu ki\u015fi veya gruba atfedilmesi daha anlaml\u0131 h\u00e2le gelir. \u00d6rne\u011fin, bir otonom ara\u00e7 veya askeri robot belirli bir akt\u00f6r\u00fcn g\u00f6zetimi alt\u0131nda \u00e7al\u0131\u015f\u0131yor olabilir. Bu akt\u00f6r sistemi ba\u015flatma, durdurma veya gerekti\u011finde m\u00fcdahale etme yetkisine sahip olabilir; sistemin davran\u0131\u015flar\u0131 da b\u00fcy\u00fck \u00f6l\u00e7\u00fcde onun belirledi\u011fi ama\u00e7lar ve tercihler do\u011frultusunda \u015fekillenebilir. Ayr\u0131ca bu akt\u00f6r, sistemin davran\u0131\u015flar\u0131n\u0131 izleyebilir, genel d\u00fczeyde nas\u0131l \u00e7al\u0131\u015ft\u0131\u011f\u0131n\u0131 anlayabilir ve gerekli g\u00fcncellemelerin yap\u0131lmas\u0131n\u0131 sa\u011flayabilir.<\/p>\n\n\n\n
Ancak Nyholm\u2019un (2023) da belirtti\u011fi gibi, ger\u00e7ek d\u00fcnyadaki sorumluluk bo\u015fluklar\u0131n\u0131 ele almak, yapay zek\u00e2 sistemlerinin eylemlerinden kimin sorumlu tutulabilece\u011fine ili\u015fkin soyut felsefi modeller geli\u015ftirmekten \u00e7ok daha zordur!<\/p>\n\n\n\n
Ge\u00e7mi\u015fe ve gelece\u011fe d\u00f6n\u00fck olumlu sorumluluk bo\u015fluklar\u0131, yapay zek\u00e2 eti\u011fi literat\u00fcr\u00fcnde olumsuz sorumluluk bo\u015fluklar\u0131 kadar fazla ele al\u0131nmayan konular. \u00d6te yandan, yapay zek\u00e2 teknolojilerinin i\u015fsizli\u011fe neden olup olmayaca\u011f\u0131 hem iktisat\u00e7\u0131lar hem de \u00e7al\u0131\u015fanlar a\u00e7\u0131s\u0131ndan uzun s\u00fcredir tart\u0131\u015f\u0131lan bir konu. Nyholm\u2019un (2023) ge\u00e7mi\u015fe d\u00f6n\u00fck olumlu sorumluluk bo\u015flu\u011fu kavram\u0131, yapay zek\u00e2n\u0131n \u00e7al\u0131\u015fma hayat\u0131ndaki etkilerini yaln\u0131zca istihdam \u00fczerinden de\u011ferlendirmememiz gerekti\u011fini g\u00f6steriyor. \u00c7\u00fcnk\u00fc i\u015f, insanlar\u0131n yaln\u0131zca gelir elde etti\u011fi bir faaliyet de\u011fildir; ayn\u0131 zamanda d\u00fcnyayla ili\u015fki kurma, \u00fcretme ve kendini ger\u00e7ekle\u015ftirme bi\u00e7imlerinden biridir. E\u011fer insanlar giderek daha fazla anlaml\u0131 \u00fcretim s\u00fcre\u00e7lerinin d\u0131\u015f\u0131nda kal\u0131rsa, sorun yaln\u0131zca ekonomik bir kay\u0131p olmakla kalmaz: insanlar\u0131n yeteneklerini geli\u015ftirme, toplumsal s\u00fcre\u00e7lere anlaml\u0131 katk\u0131larda bulunma ve kendilerini ger\u00e7ekle\u015ftirme kapasiteleri de a\u015f\u0131nmaya ba\u015flayabilir.<\/p>\n\n\n\n
<\/a>Gelece\u011fe d\u00f6n\u00fck olumlu sorumluluk bo\u015flu\u011fu ise B\u00fcy\u00fck Teknoloji \u015firketlerine ve birka\u00e7 devlete b\u0131rak\u0131lamayacak kadar \u00f6nemli bir konu…<\/p>\n\n\n\n
<\/a>Kaynak\u00e7a<\/h1>\n\n\n\n
<\/a><\/a> Chokshi, N. (2020). Tesla Autopilot System Found Probably at Fault in 2018 Crash. The New York Times<\/em>. https:\/\/www.nytimes.com\/2020\/02\/25\/business\/tesla-autopilot-ntsb.html<\/a><\/p>\n\n\n\n
<\/a> Elluswamy, A. (2026, Haziran 22). Yup. In this case, the driver manually overrode self-driving by pressing the accelerator all the way to 100% of [\u2026]<\/em>. X. https:\/\/x.com\/aelluswamy\/status\/2069168079549161491<\/a><\/p>\n\n\n\n
<\/a> Ewing, J., Metz, C., ve Taylor, D. B. (2023). Tesla Recalls Autopilot Software in 2 Million Vehicles. The New York Times<\/em>. https:\/\/www.nytimes.com\/2023\/12\/13\/business\/tesla-autopilot-recall.html<\/a><\/p>\n\n\n\n
<\/a> Matthias, A. (2004). The responsibility gap: Ascribing responsibility for the actions of learning automata. Ethics and information technology<\/em>, 6<\/em>(3), 175-183.<\/p>\n\n\n\n
<\/a> Milmo, D. (2023). Mushroom pickers urged to avoid foraging books on Amazon that appear to be written by AI. The Guardian<\/em>, 1<\/em>. https:\/\/www.theguardian.com\/technology\/2023\/sep\/01\/mushroom-pickers-urged-to-avoid-foraging-books-on-amazon-that-appear-to-be-written-by-ai<\/a><\/p>\n\n\n\n
<\/a> Mobley v. Workday, Inc. (2023). No. 3:23-cv-00770-RFL<\/em>. https:\/\/www.courtlistener.com\/docket\/66831340\/mobley-v-workday-inc\/<\/a><\/p>\n\n\n\n
<\/a> Mobley v. Workday, Inc. (2024). No. 3:23-cv-00770-RFL, Order<\/em>. https:\/\/blogs.duanemorris.com\/classactiondefense\/wp-content\/uploads\/sites\/56\/2024\/07\/Mobley-v.-Workday-Order.pdf<\/a><\/p>\n\n\n\n
<\/a> Nyholm, S. (2023). Responsibility gaps, value alignment, and meaningful human control over artificial intelligence. I\u00e7inde Risk and responsibility in context<\/em> (ss. 191-213). Routledge.<\/p>\n\n\n\n
<\/a> Petri, A. E. (2026). Tesla Driver Using Autopilot in Texas Crash Is Charged With Manslaughter. The New York Times<\/em>. https:\/\/www.nytimes.com\/2026\/07\/02\/us\/tesla-autopilot-crash-texas-manslaughter.html<\/a><\/p>\n\n\n\n
<\/a> Proctor, J. (2024). Air Canada found liable for chatbot\u2019s bad advice on plane tickets. CBC News<\/em>. https:\/\/www.cbc.ca\/news\/canada\/british-columbia\/air-canada-chatbot-lawsuit-1.7116416<\/a><\/p>\n\n\n\n
- Ge\u00e7mi\u015fe d\u00f6n\u00fck olumlu sorumluluk bo\u015fluklar\u0131:<\/strong> Bir ba\u015far\u0131 oldu, ama kimi takdir edece\u011fimiz belirsiz.<\/li>\n\n\n\n
- Ge\u00e7mi\u015fe d\u00f6n\u00fck olumsuz sorumluluk bo\u015fluklar\u0131:<\/strong> Bir zarar oldu, ama kimi su\u00e7layaca\u011f\u0131m\u0131z belirsiz.<\/li>\n\n\n\n