"Enter"a basıp içeriğe geçin

Yapay Zekâ ve İş Yerleri

Son iki yazıda YZ (yapay zekâ) alanında çalışan akademisyenlerin ve iş insanlarının YZ hakkındaki endişelerinden bahsetmiştim. FLI (Yaşamın Geleceği Enstitüsü – Future of Life Institute), dev YZ deneylerini duraklatma çağrısı yapmış ve CAIS (Center for AI Safety – Yapay Zekâ Güvenliği Merkezi) de YZ kaynaklı yok olma riskinin salgın hastalıklar ve nükleer savaş gibi diğer toplumsal ölçekli risklerle birlikte küresel bir öncelik olması gerektiğini savunan bir bildiri yayımlamıştı.

OpenAI’nin sohbet robotu ChatGPT’nin çıkışından sonra insanlar bir yandan üretken YZ’nin potansiyelinden büyülenirken diğer yandan YZ’nin kontrolsüz ve kontrol edilmesi gereken bir güç olduğu görüşü yaygınlaştı. Aslında üretken YZ’den daha önce de YZ’nin düzenlenmesi için çeşitli çalışmalar vardı. Melissa Heikkilä, MIT Technology Review‘de yayımlanan yazısında belli başlı altı düzenleme girişiminin artılarını ve eksilerini ele alıyor (https://www.technologyreview.com/2023/05/22/1073482/our-quick-guide-to-the-6-ways-we-can-regulate-ai/).

Birincisi, Avrupa Konseyi’nin YZ anlaşması. Henüz taslak aşamasında olan (https://rm.coe.int/cai-2023-01-revised-zero-draft-framework-convention-public/1680aa193f) anlaşmanın kasım ayında tamamlanması planlanıyor. İmza sahiplerinin YZ’nin insan haklarını, demokrasiyi ve hukukun üstünlüğünü koruyacak şekilde tasarlanması, geliştirilmesi ve uygulanmasını sağlamak için gerekli adımları atması gerekiyor. Anlaşmaya göre yüz tanıma teknolojisi gibi insan haklarına zarar verebilecek teknolojiler resmi yollardan geciktirilebilecek.

Müzakere masasında sadece Avrupa Birliği ülkeleri yok. Birleşik Krallık ve Ukrayna’nın yanında Avrupa dışından ülkeler de var. ABD, Kanada, İsrail, Meksika ve Japonya da müzakere masasına davet edilmişler. Ancak her bir ülkenin anlaşmayı onaylaması ve ardından bunu ulusal hukukuna uygulaması gerekiyor. Bu süreç yıllar alabileceği gibi ülkelerin anlaşmada belirli maddeleri kabul etmeme olasılığı da var.

İkincisi, 2019’da OECD üyesi ülkelerinin benimsediği ama bağlayıcılığı olmayan ilkeler (https://oecd.ai/en/ai-principles). Bu ilkelere göre YZ sistemleri,

  • Şeffaf ve açıklanabilir olmalıdır.
  • Sağlam, güvenli ve güvenilir biçimde çalışmalıdır
  • Hesap verebilirlik mekanizmalarına sahip olmalıdır.
  • Hukukun üstünlüğüne, insan haklarına, demokratik değerlere ve çeşitliliğe saygı duyacak şekilde tasarlanmalıdır.

Ayrıca ilkelerde YZ’nin ekonomik büyümeye katkıda bulunması gerektiği üzerinde duruluyor.

Bu ilkeler, Batı’nın YZ politikalarının şekillenmesinde önemli bir yere sahip. Ayrıca OECD ulusal YZ düzenlemelerini izliyor ve YZ’nin ekonomik etkileri hakkında araştırmalar yapıyor. OECD, YZ araştırmacılarından oluşan etkin, küresel bir ağa sahip. Fakat OECD’nin uluslararası bir kuruluş olarak görevinin düzenleme yapmak değil, ekonomik büyümeyi teşvik etmek olduğunu unutmamalı. Ülkelerin, OECD belgelerinde yer alan üst düzey ilkeleri uygulanabilir politikalara dönüştürmeleri gerekiyor.

Üçüncüsü, Kanada Başbakanı Justin Trudeau ve Fransa Cumhurbaşkanı Emmanuel Macron’un öncülüğünde 2020’de kurulan Yapay Zekâda Küresel Ortaklık. Ortaklık,YZ ile ilgili araştırma ve bilgileri paylaşmayı, sorumlu YZ etrafında uluslararası araştırma işbirliğini teşvik etmeyi ve dünya çapında YZ politikalarını şekillendirebilen uluslararası bir organ olmayı hedefliyor. Ortaklıkta, bazıları Afrika, Güney Amerika ve Asya’dan olmak üzere 29 ülke var.

Ortaklığın uluslarası araştırma ve işbirliğini teşvik etmesi olumlu bir adım. Fakat şatafatlı bir açılıştan sonra beklentileri karşılayamadığı görülüyor. Örneğin 2023’te herhangi bir çalışma yayımlamamışlar.

Dördüncüsü, AB YZ Yasası, yüksek riskli YZ sistemlerinin kullanımını düzenlemeyi hedefliyor. İlk olarak 2021’de önerilen yasa, özellikle sağlık ve eğitim sektörlerinin düzenlemesine odaklanıyor. Bu yasa çerçevesinde uygun olmayan YZ teknolojilerinin AB’de satışı ve kullanımının önüne geçilebilecek. Yasa, üretken YZ’yi düzenleyecek ve yüz tanıma gibi kabul edilemez riskler içeren teknolojileri kısıtlayacak.

AB YZ Yasası, ilk kapsamlı YZ düzenlemesi olması nedeniyle AB’ye önemli bir avantaj sağlayacak. AB üyesi olmayan ülkelerdeki şirketler AB ülkeleri ile iş yapmak istediklerinde uygulamalarını yasalara uyacak şekilde ayarlamak zorunda kalacaklarından AB YZ Yasası büyük bir ihtimalle uluslararası bir geçerliliğe sahip olacak. Ancak yasanın getireceği kısıtlamalara karşı teknoloji şirketlerinin lobi faaliyetlerini artırması ve yasayı sulandırmaya çalışması bekleniyor. Ayrıca hazırlanan yasanın AB yasama sisteminden geçip yürürlüğe girmesi birkaç yıl sürebilir.

Beşincisi, standartları belirleyen kurumların çalışmaları. Söz konusu kurumlar sıfırdan düzenleyici ilkeler yazmıyor. Ama hazırladıkları teknik standartlarla düzenlemeleri şirketlerin izleyebileceği daha basit kurallara dönüştürebiliyorlar. Böylece şirketler farklı hukuksal yetki alanında çalışabilen ürünler geliştirebiliyorlar.

Daha şimdiden bu doğrultuda hazırlanmış çeşitli standartlar var. Örneğin ISO’nun (Uluslararası Standartlar Teşkilatı) şirketlerin YZ risk yönetimi ve etki değerlendirmeleri konusunda nasıl hareket edeceği ve YZ’nin gelişimini nasıl yöneteceği hakkında geliştirdiği standartlar var.

Standartların çoğunun genel ve endüstrilerin farklı olması nedeniyle şirketler, ilgili standartları kendi sektörlerinde kullanılabilir hale getirmek için bol bol çeviri yapmak zorunda kalacaklar. Bu durum, küçük şirketleri zorlayabilir. Ayrıca bir diğer tartışma konusu da teknik uzmanların ve mühendislerin etik riskler üzerine kurallar hazırlamalarının ne kadar doğru olacağı üzerine.

Altıncısı, BM’nin (Birleşmiş Milletler) etik çerçevesi. YZ konusunda küresel koordinasyonu destekleyebilecek ve kolaylaştırabilecek uluslararası bir kuruluş olmak isteyen BM, 2021’de yeni bir teknoloji elçisi atadı. Aynı yıl BM kuruluşlarından UNESCO ve üye ülkeler gönüllü bir YZ etik çerçevesini kabul etti. Bu etik çerçevesine göre üye ülkeler YZ için etik etki değerlendirmeleri getirmeyi, YZ’nin çevresel etkisini değerlendirmeyi, YZ’nin cinsiyet eşitliğini teşvik etmesini ve kitlesel gözetim için kullanılmamasını sağlamayı taahhüt ediyorlardı.

Günümüzde pek çok ülkenin insanları gözetlemek için YZ’den yararlandığını biliyoruz. Dolayısıyla ülkelerin etik kurallara uyma konusundaki samimiyetine şüpheyle bakılıyor. Ayrıca BM’nin teknoloji konusunda pek başarılı olduğu söylenemez. BM’nin ölümcül otonom insansız hava araçları için kurallar oluşturma çabaları yıllardır bir ilerleme kaydedemedi.

***

Yukarıdaki düzenlemeler çoğunlukla genel ilkeleri ortaya koyuyor. Bu ilkelerin, standart belirleyen kurumlar tarafından şirketlerin izleyebileceği daha basit kurallara dönüştürebilmesi önemlidir. Söz konusu ilkelerin hazırlanması kadar standartların oluşturulması, oluşturulan standartların geliştirilecek teknolojilerde uygulanması ve ilgili standartlara göre geliştirilen teknolojilerin farklı ortamlarda kullanımı farklı güç ilişkilerini içeren politik süreçler. Fakat sanki ilk (düzenleyici ilkeler) ve son (örneğin iş yerlerinde YZ kullanımı) aşama arasındaki bir kopukluk var gibi. Teknolojinin tarafsız olduğu, bilim insanları ve mühendisler tarafından geliştirilen teknolojilerin farklı amaçlar için kullanılabileceği ön kabulünden yola çıkılıyor. Böyle düşünülünce de YZ olumlu ve olumsuz amaçlar doğrultusunda kullanılabilecek nötr bir araç haline geliyor. Sorun (ve çözüm), sadece teknolojinin kullanımına indirgeniyor.

Teknolojinin nötrlüğü düşüncesini desteklemek için başvurulan sözlerden biri “insanları silahlar değil, insanlar öldürür”. Bu söz üzerinden gidelim… Silahlar kendi başlarına insan öldürmez ama insan öldürmeyi kolaylaştırırlar. Örneğin silah sahipliğinin yaygınlığı sayesinde ABD’deki intiharlar diğer yüksek gelirli ülkelere göre daha başarılıdır. Ayrıca ABD’de yaygın silah sahipliğinin polisin işini daha tehlikeli hale getirdiği ve dolayısıyla polis memurlarının şüphelileri vurma olasılığını artırdığı ileri sürülüyor. Teknolojiyi kullanan öznelerin bir sorumluluğu var. Fakat teknoloji aynı zamanda insanlara belirli kolaylıklar sağlıyor, bazı eylemleri mümkün kılıyor veya sınırlıyor, belirli sonuçları daha olası kılan fırsatlar ve durumlar yaratıyor. Bu nedenle, YZ’deki riskleri, savunulan etik ilkeleri veya düzenleme girişimlerini tartışırken teknolojiyi bir araç olarak değil daha tasarım aşamasında farklı toplumsal güçlerin etkileyebildiği toplumsal bir süreç olarak ele almak daha doğru olacaktır. Uygulamaların yanı sıra, düzenleyici çerçeveleri, etik ilkeleri ve standartları nasıl bir dünyada yaşamak istediğimizi dikkate alarak tartışmalıyız.

Bu çerçevede, YZ hakkındaki en önemli tartışmalardan biri olan YZ’nin iş gücünü nasıl etkileyeceği konusuna bakalım. Önümüzde iki temel senaryo var. Birincisi, iş gücünün ikamesi; ikincisi, iş gücünün desteklenmesi. İlk senaryoda, işçilerin yerini makineler alır ikincisinde ise insan-makine işbirliği ile üretkenlik artırılır. İlk senaryo, kitlesel işsizliğe neden olacağından ikinci senaryo daha kabul edilebilir görünür. Ayrıca ikinci senaryoda, insan ve bilgisayarın birbirlerini tamamlayacağı düşünülmektedir. Örneğin, eski dünya satranç şampiyonlarından Garry Kasparov, bir insan ve bir makinenin takım olarak yarıştığı “centaur satrancı” fikrini ortaya atar. Centaur, Yunan Mitolojisi’nde geçen yarı insan ve yarı at bedenli bir varlıktır. Kasparov, insan ve bilgisayarın yeteneklerini birleştiren centaur satrancının hatasız hamlelerle, oyunlardaki kaliteyi artıracağını ve hem taktiksel oyunu hem de stratejik planları mükemmelleştirebileceğini savunuyor. Centaur modeli iş yerlerinde uygulandığında verimlilik artışı daha yüksek maaşlar veya daha iyi ürün ve hizmetler sağlayabilir. Bunun yanında ekonomi tarihçisi Carl Benedikt Frey, iş gücünün yerini alan teknolojilerin aksine, iş gücünü etkinleştiren teknolojilerin tarihsel olarak işçiler tarafından daha kabul edilebilir olduğunu ve siyasi istikrarsızlık olmadan üretkenlik artışlarına izin verdiğini savunuyor. Fakat Furendal ve Jebari’nin (2023) Amazon örneğinde görüldüğü gibi insan-makine işbirliği senaryosunda üretkenlik artsa bile bu işbirliği işin “iyi” yönlerini artırabileceği gibi tam tersi biçimde işin “iyi” yönlerini azaltıp “kötü” yönlerini artırması da mümkün. Amazon’un ambarlarına geçmeden önce kısaca bir işin nasıl iyi ve kötü olabileceğine bakalım.

İyi ve Kötü İş

Gheaus ve Herzog (2016) çalışanlar açısından işin iyi olmasını dört maddede özetliyor. İlk olarak iş, kişinin becerilerini geliştirerek kişiye mükemmelliğin peşinden gitme şansı sunabilir. Örneğin, yetenekli bir zanaatkarın yeteneklerini geliştirmesi ve bunları rafine bir ürün yaratmak için kullanması kişinin iş tatminini artırır. İkinci olarak, insanları çalışmaya teşvik eden birçok kurum ve norm göz önüne alındığında, kişinin esas olarak işinde elde edebileceği ancak işsiz olduğunda peşinden gitmesi daha zor olan bazı değerler vardır. Örneğin, COVID salgını sırasında hemşirelik, öğretmenlik, doktorluk, kuryelik vb temel işlerde görüldüğü gibi birçok insan, işleri aracılığıyla topluma katkıda bulunma şansına değer vermektedir. Üçüncüsü, sosyal kabul görme şansının ücretli iş yapmakla yakından bağlantılı olmasıdır. Kişinin yaptığı iş ve iş hiyerarşisindeki yeri kişinin toplumsal tanınırlığında etkili olabilir. Dördüncüsü, görece özgür ve eşit ilişkiler içinde bulunan insanlarla birlikte bir şeyler yapma deneyimi, bir topluluğun üyesi olma hissi verebilir. Hiyerarşik olmayan örgütler daha geleneksel iş yeri biçimlerine göre topluluk hissi sunmada daha başarılı olabilir.

İşler, yukarıdaki iyi özellikleri engelleyecek şekilde düzenlendiğinde, iyi olarak görülen diğer özellikleri zayıflattığında veya bunları korumada başarısız olduğunda çalışanlar için kötü durumlardan söz edilebilir. Örneğin,

  • İş, çalışanların sağlığına zarar verebilir. Yaralanma, hastalık veya akıl hastalığı riski içerebilir.
  • İş, çalışanların kendilerine ayırdıkları zamanı azaltabilir.
  • Çok az beceri gerektiren sıkıcı ve tekrarlayan işler, çalışanların mükemmellik peşinde koşmasını engeller ve çalışanların bu işlerle uğraştıkları için diğerlerinden sosyal takdir görmeleri pek olası değildir.
  • İşteki görevler, insan onurunun ortak normlarını ihlal edebilir (örneğin, tuvalet sürelerinin kısıtlanması.)
  • Çalışanlar müdahaleci gözetime maruz kalabilir.

Amazon’da İnsan-Makine İşbirliği

Amazon’un FC’leri (fulfillment centers – sipariş karşılama merkezi), dağıtılacak ürünlerin depolandığı ambarlardır. “İstifçi” adı verilen işçiler ürünleri rafa kaldırırken, “toplayıcılar” da onları geri alır. Ürünleri kategorilerine göre yerleştirmek yerine ürünlerin az ya da çok rastgele istiflendiği kaotik bir depolama yöntemi kullanılır. Kaotik depolama hem daha verimli toplamaya hem de depolama alanının daha verimli kullanımına izin verir. Ama barkod tarayıcılar olmadan bu yöntemi verimli bir şekilde uygulamak olanaklı değildir. Ürünlerin yerini elindeki barkod tarayıcıyla bulan “toplayıcı” bir centaura dönüşür.

Tarayıcılar aynı zamanda çalışanların performansını izler ve onları FC’nin temposuna ayak uyduracak biçimde mümkün olduğunca hızlı yürümeye zorlar. Yeni inşa edilen FC’lerde ise işçiler sabit iş istasyonlarında çalışırlar ve mobil raflar kendilerine gelir.

Son birkaç yılda FC’lerde çalışma saati başına iş yeri yaralanmalarında önemli bir artış var ve Amazon depolarındaki ciddi yaralanma oranları diğer şirketler tarafından işletilen depolara göre çok daha yüksek. İngiliz sendikası GMB tarafından sunulan bir analiz, ambarlara yapılan ambulans çağrılarının Kara Cuma ve Amazon’un “Prime day” gibi büyük alışveriş tarihlerinde arttığını gösteriyor. Sabit raflarda çalışanlar genellikle vardiya başına 20 km’ye kadar yürüyorlar. Rafların hareketli ve çalışanların sabit olduğu depolarda ise FC’lerdeki robotlar, bir rafa yürümek ve paketleri almak gibi eskiden bir işçinin görevi olan işin bir kısmını yerine getiriyor. Fakat buralarda da tekrarlayan hareketler ve tehlikeli kaldırma işlemleri artmış durumda.

Çalışanların performansı gerçek zamanlı olarak izleniyor ve çalışanlara müdahale ediliyor. Örneğin, işçilere paketleri toplamaları ve kaydetmeleri için belirli bir süre tanınıyor. Bir çalışan, tahsis edilen zamanda görevini yerine getiremediğinde iş istasyonundaki bir ekranda anında geri bildirim üretiliyor. Kimin terfi ettirilip kimin kovulacağını belirleyen opak bir puanlama sistemi var.

İzlendiğini algılayan bir kişi doğal olarak daha temkinli hale geliyor ve bilişsel olarak zorlayıcı görevlerden kaçınıyor. Yakın izleme ve şeffaf olmayan üretkenlik önlemleri, mahremiyet sorunu dışında iki ek soruna neden oluyor. İlk olarak, işin daha tekrarlı hale gelmesiyle işçilerin planlama yapmaları, inisiyatif almaları veya yeni beceriler öğrenmeleri beklenmediğinden özerklikleri de azalıyor. İkincisi, rekabetin güçlü bir şekilde teşvik edilmesi topluluk duygusunun yitirilmesine neden oluyor. Bunun sonucunda, kişinin iş arkadaşlarıyla işbirliği yapma eğilimi azalıyor ve kendini bir topluluğa ait hissetme duygusu köreliyor.

***

Kısacası, Amazon’da insan-makine işbirliği üretkenliği artırıyor. Ama ambarda YZ kullanımı temenni edildiği gibi çalışanların daha anlamlı ve yaratıcı görevlere odaklanmasıyla sonuçlanmıyor. Amazon’un FC’leri YZ güdümlü otomasyonun şu anda ekonomide bir bütün olarak nasıl uygulandığını temsil etmiyor ama dünyanın en yenilikçi (!) şirketlerinden birinde kullanılan teknolojik uygulamaların ileride yayılma ve yaygınlaşma ihtimalinin oldukça yüksek olduğunu dikkate almak gerekiyor. Ayrıca Furendal ve Jebari, (2023) Amazon’daki sorunların birçoğunun, YZ modellerinin eğitileceği verileri hazırlayan işçiler de dahil olmak üzere ekonominin diğer sektörlerinde de yaşandığını belirtiyor.

YZ’nin çalışanları gerçekten güçlendirmesi veya onlara ruhen ve bedenen zarar vermesi yalnızca mevcut teknolojiye değil, iş yerindeki güç ilişkilerine de bağlı. Ancak iş yerlerindeki mücadelelerin YZ düzenlemeleriyle, YZ düzenlemelerinin de iş yerlerindeki mücadelelerle desteklenmesi gerekiyor.

Kaynaklar

Furendal, M., & Jebari, K. (2023). The Future of Work: Augmentation or Stunting?. Philosophy & Technology, 36(2), 36.

Gheaus, A., & Herzog, L. (2016). The goods of work (other than money!)

İlk Yorumu Siz Yapın

Bir cevap yazın

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir