Geçen ayki yazıda FLI’nın (Yaşamın Geleceği Enstitüsü – Future of Life Institute), 22 Mart’ta yayımladığı “Dev Yapay Zeka Deneylerini Duraklatın” başlıklı açık mektubundan bahsetmiştim. FLI, güçlü YZ (yapay zekâ) sistemlerinin geliştirilmesine devam etmeden önce risklerin yönetilebilirliğinden emin olunması gerektiğini savunuyordu. 30 Mayıs’ta da CAIS’in (Center for AI Safety – Yapay Zeka Güvenliği Merkezi) web sitesinde dünyanın önde gelen YZ araştırmacılarının yanında başka disiplinlerden akademisyenlerin ve Microsoft, Google, OpenAI gibi şirketlerinin yöneticilerinin imzaladığı kısa bir bildiri yayımlandı. Bir tartışma başlatmayı hedefleyen bildiride şöyle yazıyordu (https://www.safe.ai/statement-on-ai-risk):
Yapay zekâ kaynaklı yok olma riskinin azaltılması, salgın hastalıklar ve nükleer savaş gibi diğer toplumsal ölçekli risklerle birlikte küresel bir öncelik olmalıdır.
Yok olma riski denilince ilk akla gelen Terminatör gibi robotların dünyayı ele geçirmesi oluyor. Yakın zamanda böyle bir tehlike yok. Ama ChatGPT ve onu takip eden diğer üretken YZ’lerle beraber büyük YZ modellerinin yarattığı sorunlar daha belirgin olmaya başladı. Son yıllarda araştırmacıların dikkat çektiği mahremiyet ihlalleri, algoritmaların taraflılığı, çeşitli toplumsal sorunları teknoloji ile çözme girişimleri gibi sorunlar sektörün hedeflerini araştırma ve şeffaflıktan kâr ve güç yoğunlaşmasına kaydırmasıyla daha da kötüleşti.
CAIS’in bildirisine imza atanlar arasında OpenAI’nın CEO’su Sam Altman da var. Ancak OpenAI ve diğer şirketlerin üretken YZ teknolojisini tüketiciye yönelik ürün ve hizmetlere hızla entegre etme kararları, YZ geliştirmeyi şeffaf ve hesap verebilir hale getirmek için uzun süredir devam eden çabaları baltaladı. Şirketlerin uzun süredir savunduğu öz düzenleme başarısız oldu ve üretken YZ sistemlerinin yeterli önlem ve düzenlemeler olmaksızın hızlı bir şekilde yaygınlaştırılması için adımlar atıldı. Şirketlerden medyaya ve devlet kurumlarına kadar yüzlerce kuruluş, bu test edilmemiş YZ araçlarını geliştiriyor ve çok çeşitli sistemlere hızla entegre etmeye çalışıyor.
Birçok üst düzey yönetici, YZ’nin çok da uzak olmayan bir gelecekte insanlık için varoluşsal bir tehdit oluşturabileceğini düşünüyor. Haziran’da Yale Üniversitesi’nde düzenlenen CEO zirvesinde yapılan bir ankette CEO’ların %34’ü YZ’nin on yıl içinde insanlığı yok edebileceğini, %8’i bunun beş yıl içinde gerçekleşebileceğini belirtirken, %58’i bunun asla gerçekleşemeyeceğini ve “endişeli olmadıklarını” belirtmiş. Başka bir soruda ise ankete katılan CEO’ların %42’si YZ’nin potansiyel felaketinin abartıldığını, %58’i ise abartılmadığını söylemiş. YZ’nin potansiyel fırsatları hakkında ise CEO’lar daha hemfikir: %13’ü YZ’nin potansiyel fırsatının abartıldığını söylerken, %87’si abartılmadığını belirtmiş. CEO’lar YZ’nin en dönüştürücü etkiyi üç temel sektörde göstereceğini düşünüyor: sağlık hizmetleri (%48), profesyonel hizmetler/bilişim teknolojileri (%35) ve medya/dijital (%11) (https://edition.cnn.com/2023/06/14/business/artificial-intelligence-ceos-warning/index.html, son erişim 18.06.2023).
Yale’in işletme alanındaki önemli isimlerinden biri olan Jeffrey Sonnenfeld, YZ konusunda iş insanlarını beş gruba ayırıyor. İlk grup, bir şeyi yapabiliyorsanız yapmanız gerektiğini savunan “saf inananlar” olan YZ’nin meraklı yaratıcılarından oluşuyor. Sonnenfeld, bu kişileri atom bombası öncesindeki Robert Oppenheimer’a benzetiyor. İkinci grupta teknolojide yalnızca iyiyi gören “coşkulu müminler” var. Üçüncü grupta yer alan “ticari vurguncular” ise yeni teknolojiden para kazanmaya hevesliler; “ne yaptıklarını bilmiyorlar ama bunun için yarışıyorlar”. Dördüncü ve beşinci grupta ise panik yaratan aktivistler ve küresel yönetişim savunucuları var (age).
Yok olma riski denilince ilk akla gelen her geçen gün daha da akıllanan robotların iş yerlerinde, sosyal hayatta insanların yerini alması ve nihayetinde yönetimi ele geçirmesi gibi uzun vadeli riskler. Ancak Sasha Luccioni’nin sunumundaki buz dağının görünmeyen yüzündeki sorunlar (https://t.co/OijUQQHr5g), şimdiden kendini göstermeye başladı. Bu yazıda ele alacağım EPIC (Electronic Privacy Information Center) raporu, buz dağının görünmeyen yüzündeki sorunlara odaklanmış.
Enformasyon Toplumundan Geri Sıçrama
2000’li yılların başında enformasyon toplumunu konuşuyor ve enformasyonun internette özgürce akması için mücadele ediyorduk. Wikipedia göz bebeğimizdi. Ama özgürce akan enformasyon arttıkça yeni kahramanlara gerek duyduk. Enformasyon bolluğunda Google, aradığımız şeyleri arayıp buluyor; sosyal medya siteleri kendi algoritmaları doğrultusunda görmek istediğimiz içerikleri gösteriyordu. Üretken YZ (Generative Artificial Intelligence) araçları ise enformasyon toplumunda daha büyük bir geri sıçramayı ifade ediyor. Ücretsiz veya düşük maliyetli üretken YZ araçlarının yaygın kullanımı, yüksek hacimli metin, görüntü, ses ve video içeriğinin yayılmasını kolaylaştırıyor. Fakat etkili önlemler alınmadığı taktirde üretken YZ araçları derin sahtede olduğu gibi yanlış, yanıltıcı, ön yargılı, kışkırtıcı veya tehlikeli içerikleri yaymak için kullanılacak.
Derin sahte, yapay öğrenme algoritmaları kullanılarak oluşturulan, bir kişiyi söylemediği bir şeyi söylemiş ya da yapmadığı bir şeyi yapmış gibi gösteren gerçekçi sesler veya görüntüler. YZ tarafından üretilen görüntüler ve videolar, kötü niyetli kişilerin başkalarını taklit etmeleri, taciz etmeleri, aşağılamaları, istismar etmeleri ve şantaj yapmaları için çeşitli yollar sunuyor.
İlk derin sahte videolarında içeriği oluşturan kişilerin TensorFlow gibi bir araç kullanarak bir yapay öğrenme modeli oluşturması; modeli çeşitli görüntü, video veya ses dosyaları üzerinde eğitmesi ve ardından modele belirli bir kişinin özelliklerini veya sesini başka bir kişinin vücuduna eşlemesi talimatını vermesi gerekiyordu. Midjourney ve Runway gibi yeni üretken YZ hizmetleriyle işler daha da kolaylaşıyor ve teknik engeller ortadan kalkıyor.
Bir kişi veya kuruluşu taklit etmek, taciz etmek, aşağılamak, istismar etmek veya şantaj yapmak YZ’den önce de vardı ve bu gibi durumlara karşı hukuksal çözümlere başvurulabiliyordu. Buna karşın üretken YZ, eski hukuksal çözümlerin yetersiz kaldığı yeni yasal sorunları gündeme getiriyor. Örneğin, yaşayan insanlar için geçerli yasalar ölmüş kişilerin derin sahte ses ve videolarında geçerli olmayabilir. Ya da bir şirketin sunduğu üretken YZ hizmeti ile üretilen bir derin sahtenin sorumluluğu sadece ilgili hizmetten yararlanan kişiye mi aittir? Hizmeti sunan şirketin sorumluluğu nerede başlar, nerede biter?
Kolluk kuvvetleri ve bankalar yurttaşları dolandırıcılık amaçlı telefon aramaları ve mesajlara karşı uyarıyorlar. Dolandırıcılar, zor durumdaki Nijeryalı Prens veya onu taklit eden hikayelerle şanslarını denemeye devam ediyorlar. Üretken YZ tarafından üretilen metin, ses ve videolar, bu gibi dolandırıcılıkların kişiselleştirilmesini ve inandırıcılığını artırabilir. YZ ile bir yakınınızın sesi taklit edilebilir ve telefondaki kişi sizden acil olarak bir hesap numarasına para göndermenizi isteyebilir. Dolandırıcılar, sıkıntı içindeki aile üyeleri gibi görünmek için YZ ile üretilmiş sesleri kullanmaya başladılar bile (https://www.washingtonpost.com/technology/2023/03/05/ai-voice-scam/). Ayrıca YZ araçları ile üretilen oltalama e-postalarının insanların ürettiklerinden daha inandırıcı oldukları iddia ediliyor (https://www.washingtonpost.com/technology/2023/03/05/ai-voice-scam/).
Kötü niyetli aktörler, üretken YZ araçlarını bir kampanyayı, siyasi gündemi veya nefret söylemini hızlı ve ucuz bir şekilde yaymak için kullanabilirler. Üretken YZ araçlarının en önemli bilgi kaynağının internet olması nedeniyle bu araçların çıktıları daha sonra girdi olacağından dezenformasyonu güçlendirecektir.
Bunun yanında, Bard veya ChatGPT gibi metin üreten büyük dil modellerinin hatalı çıktılar verebildiklerini unutmayalım. Dezenformasyonda olduğu gibi yalan söyleme veya yanıltma niyeti olmadan da üretilen yanlış bilgiler kişilere zarar verebiliyor. Örneğin ChatGPT, cinsel tacizde bulunan hukukçuların bir listesini oluşturması istendiğinde hakkında böyle bir iddia bulunmamasına rağmen bir hukukçuyu oluşturduğu listeye eklemiş (https://www.washingtonpost.com/technology/2023/04/05/chatgpt-lies/). Enformasyonun özgürce akması ve önündeki engellerin kalkmasını istiyorduk. Ama artık gördüklerimize ve duyduklarımıza ne kadar güvenebiliriz? İnternette karşılaştığımız bilgilere güvenemediğimizde ve doğruluğu kontrol edilemeyecek kadar hızlı yeni bilgiler üretildiğinde ne yapacağız? Wikipedia gibi bilgi kaynakları YZ tarafından üretilen yanlış içeriklerle dolup taşabilir.
Mahremiyetten Fikri Mülkiyete
Mahremiyet ve fikri mülkiyet, internetin yaygınlaşmasıyla beraber tartışılan konuların başında geliyordu. Üretken YZ’nin doymak bilmez veri ihtiyacı nedeniyle, birçok YZ geliştiricisi veri bulmak için web’i gelişigüzel tarıyor. Bazı durumlarda bu geliştiriciler, korumalı çalışmaları, açık içerikleri, nefret söylemlerini veya ön yargılı girdileri filtreleyerek eğitim verilerini sterilize etmeye çalışıyorlar. Ancak verilerin temizlenmesi hakkında henüz bir endüstri standardı yok. Yasal düzenlemeler yeterli olmadığı için şirketler YZ modellerini eğitmek için giderek daha fazla (ve daha hassas) veri topluyor ve kullanıyorlar.
Şirketler kişisel bilgileri kazıyıp bunları üretken YZ araçları oluşturmak için kullandıklarında, verileri tüketicinin onay vermediği bir amaç için kullanarak tüketicilerin kişisel verileri üzerindeki kontrolünü zayıflatıyorlar. Veriler, kişilerin daha önce hayal bile etmediği amaçlar için kullanılabiliyor. Ayrıca şirketler bir kişinin verilerinin belirli bir zamanda var olduğu haliyle bir kopyasını çıkardığı için kişinin hakkındaki verileri değiştirme veya kamusal alandan kaldırma imkanı da elinden alınıyor. YZ araçları insanların kişisel verilerini daha zararlı amaçlar için kullandıkça insanlar internette kamuya açık forumlarda tartışmaya katılmaktan veya çevrimiçi etkileşimde bulunmaktan kaçınacaklardır.
Şirketlerin internetteki verileri istiflemeleri fikri mülkiyet alanında da yeni tartışmalar yaratıyor. Teknolojik gelişmelerle beraber fikri mülkiyet ilişkileri değişiyor. Fikri mülkiyet yasası telif haklarını, patentleri, ticari markaları ve ticari sırları kapsıyor. Telif hakları herhangi bir ifade ortamındaki (düşünce kitapları, müzik, tiyatro ve sanat eseri) orijinal çalışmaları, patentler icatları, ticari markalar belirli mal ve hizmetlerin kaynağını tanımlamak için kullanılan herhangi bir kelime veya sembolü, ticari sırlar ise bir işle ilgili özel bilgileri korur. Üretken YZ’nin icat yapıp yapamayacağı ve çıkan ürünün patentlenip patentlenemeyeceği tartışılıyor. Ama asıl büyük sorun telif haklarında.
Üretken YZ, yaratıcılarının bilgisi olmadan toplanan ve telif hakkıyla korunan veriler de içeren veri setleri ile eğitiliyor. Bu veri setleri ile eğitilen sistemler daha sonra belirli stilleri taklit etmeyi öğrenebiliyorlar. Tarzı kopyalanan ve çalışmaları taklit edilen sanatçılar bu durumun geçim kaynaklarını olumsuz etkilediğini belirtiyorlar. Çünkü benzer eserler kolayca ve ucuza üretilebildiğinde eserlerine olan talebin azalması nedeniyle ciddi ekonomik zararlarla karşılaşabiliyorlar. Diğer yandan, ABD Telif Hakkı Ofisi’ne telif hakkı başvurusu yapan üretken YZ kullanıcıları da var.
Bir zamanlar internet, mp3, P2P, DRM vb teknolojiler bağlamında gerçekleşen tartışmalar sanat ürünlerinin kopyalanması ve dağıtılması ile ilgiliydi. Şimdi ise doğrudan o ürünleri üreten “zeka”nın kopyalanması ve yeniden üretilmesi ile ilgili daha çetrefilli bir sorun var.
Üstelik sorun sadece sanatçıların maddi kayıpları değil. Bazı sanatçılar, YZ’nin kendi tarzlarını kopyaladığını veya çalışmalarını nefret dolu mesajları destekliyormuş gibi gösterecek şekilde değiştirdiğini belirtiyorlar.
Çevre
Gezegenimiz büyük bir iklim felaketine doğru sürükleniyor. İklim değişikliği, insanların ölümüne, milyarlarca dolarlık ekonomik zarara ve türlerin kitlesel yok oluşuna neden olacak. Bu nedenle eninde sonunda her sektörü ve faaliyeti kaynak tüketimi ve karbon maliyeti açısından değerlendirmeye başlayacağız.
Üretken YZ, yüksek bir karbon ayak izi ile birlikte geliyor. Üretken YZ modellerini eğitmek ve çalıştırmak için aşırı miktarda enerji ve fiziksel kaynak gerekiyor. Teknoloji şirketlerindeki YZ araştırmalarının çoğu, kullanılan enerji kaynakları gibi dışsallıkları göz ardı ederek modellerinin çıktılarındaki doğruluğu artırmaya çalışıyor. Üretken YZ modellerini eğitmek ve barındırmak için kullanılan veri merkezleri, yüksek enerji maliyetlerine ve büyük karbon ayak izlerine sahipler. Bu enerjinin bir kısmı yenilenebilir kaynaklardan gelse de veri merkezlerinin enerji tüketimi hâlâ endişe verici. Öncelikle veri merkezlerine ev sahipliği yapan birçok bölge, elektrik üretmek için hâlâ karbon yoğun enerji kaynakları kullanıyor. Ayrıca yenilenebilir enerji mevcut olsa bile kaynakların bir YZ modelini eğitmek yerine ailelerin evini ısıtmak, bir seraya güç sağlamak veya diğer sosyal açıdan önemli hedefleri ilerletmek için kullanılabileceği pek tartışılmıyor.
Veri merkezleri aynı zamanda sürdürülebilir olmayan şekillerde yoğun kaynak kullanıyor. Pek çok teknoloji firması, veri merkezlerini soğutmak için kamuya ait su kaynaklarından faydalanıyor ve bu uygulama kamuoyunda tepkilere neden oluyor. Yeni araştırmalar sadece GPT-3’ü eğitmek için 700.000 litre su tüketildiğini gösteriyor. Başka bir araştırmaya göre, ortalama bir kullanıcının ChatGPT ile konuşması büyük bir şişe tatlı suyu yere dökmek anlamına geliyor. Daha da önemlisi bu teknolojiler, büyük ölçüde şiddet ve sömürü koşulları altında elde edilen minerallere dayanıyor.
Sınırlı kaynakların bunları üretken YZ için kullanan büyük şirketlere gitmesi, diğerlerinin bu kaynaklara erişimde sorun yaşaması anlamına geliyor. Şirketlerin şeffaflıktan giderek uzaklaşmaları nedeniyle modern YZ araçlarının nasıl çalıştıkları ve hangi kaynaklara ihtiyaç duydukları hakkındaki bilgimiz sınırlı. Ama YZ’nin riskleri konusunda insanlara çağrı yapılırken YZ’nin çevreye etkilerine yer verilmemiş olması düşündürücü (https://www.safe.ai/ai-risk).
İş Gücündeki Değişiklikler
2021 yılında OpenAI CEO’su Sam Altman, “durdurulamaz” bir teknolojik YZ devrimi yaşanacağını ve YZ’nin iş gücüne katılımıyla birçok iş gücü türünün fiyatının sıfıra düşeceğini savunuyordu. Altman’a göre çeşitli görevleri yerine getiren YZ, mal ve hizmetlerin maliyetini düşürecek. Kamu politikalarının öngörülen böyle bir altüst oluşa uyum sağlamaması halinde çoğu insan, bugün olduğundan daha kötü durumda olacak. Kısacası Altman, ekonomik eşitsizliğin YZ tarafından hızlandırıldığı ve derinleştirildiği bir gelecek öngörüyor.
Kuşkusuz üretken YZ, belirli endüstrilerin çalışma şeklini değiştirecek. Fakat iş gücü piyasalarını nasıl etkileyeceği ve mevcut işlere nasıl entegre olacağı hakkında yorum yapmak için henüz çok erken. İş gücü ve pazar hakimiyetine sahip olan Apple, Meta, Amazon, Google ve Microsoft gibi büyük teknoloji şirketleri, araştırma ve geliştirme endüstrisini kârlı YZ ürünleri geliştirmeye yönlendirebiliyorlar. Çünkü üretken YZ modellerinin eğitimi için büyük miktarda veri, hesaplama gücü, teknik ve finansal kaynak gerekiyor. Yoğunlaşmış pazar gücü, uzmanlık ve yatırım kaynaklarına sahip olan bu bir avuç büyük teknoloji şirketi, üretken YZ alanındaki araştırma ve geliştirme işlerinin çoğunu istihdam ediyor.
Genel olarak YZ’nin gelişimi, şirketlerin iş yerlerini ve iş modellerini tasarlama biçimlerini değiştiriyor. Üretken YZ de farklı değil. İşverenlerin üretken YZ’yi hangi ölçüde benimseyeceklerini ve iş yerlerine entegre edeceklerini, bunun çalışanları ne kadar etkileyeceğini zaman gösterecek. Ama şimdiden birçok beyaz yakalı çalışanın sunumlar, pazarlama materyalleri, konuşmalar, e-postalar hazırlamak; araştırma yapmak ve hatta kodlama yapmak gibi günlük görevlerde üretken YZ’yi kullanmaya başladığını görüyoruz. Fishbowl’da, 26-30 Ocak 2023 arasında 11793 kişinin katılımıyla gerçekleştirilen ankete göre çalışanların %43’ünün iş yerindeki görevleri tamamlamak için üretken YZ araçlarını kullandığını ve bu katılımcıların %70’inin bunu patronlarının bilgisi olmadan yaptığını ortaya koyuyor (https://www.fishbowlapp.com/insights/70-percent-of-workers-using-chatgpt-at-work-are-not-telling-their-boss/). Haber kuruluşları ve web siteleri, makalelerin tamamını veya bir kısmını yazdırmak için ChatGPT kullanıyor. İşe alma yöneticileri, diğer idari görevlerin yanı sıra iş tanımlarının yazılması ve mülakat sorularının hazırlanması için üretken YZ’den yardım alıyor. Avukatlar araştırma yapmak, idari görevleri yerine getirmek ve hatta sözleşme taslakları hazırlamak için YZ kullanıyorlar. Doktorlar ise üretken YZ ile araştırma yapıyor ve hasta ziyaretlerini özetliyorlar. Üretken YZ’nin yaygınlaşması, bu araçları kullanma deneyimine sahip çalışanlara ve bu araçlar etrafında inşa edilen tamamen yeni işlere yönelik bir talep de yaratıyor.
Ancak bazı iş yerleri, üretken YZ’nin güvenilirliği (çünkü beklenmedik bir anda halüsinasyona kapılabiliyor) ve güvenlik ile ilgili endişeleri nedeniyle bu teknolojiyi hemen benimseme konusunda daha temkinli davranıyor. J.P. Morgan, Chase & Co., Bank of America, Citigroup ve Verizon çalışanlarının ChatGPT’yi kullanmasını yasakladı. Samsung, çalışanlarının ChatGPT’ye hassas veriler yüklemesinin ardından, iletilen verilerin harici sunucularda depolandığı, geri alınmasının veya silinmesinin zor olduğu ve başkalarına sızdırılabileceği endişesini dile getirerek üretken YZ araçlarını yasakladı.
Üretken YZ savunucuları, ChatGPT gibi teknolojilerin tekrarlayan görevleri otomatikleştirebileceğini ve insanların karmaşık veya yaratıcı görevlere odaklanmaları için daha fazla zaman kazandırabileceğini iddia ediyorlar. Ancak şu anda maliyetleri düşürmeye, kârı maksimize etmeye ve hissedar değerini artırmaya çalışan işverenlerin, çalışanları yeni yetilerle donatmak yerine üretim sürecini otomatikleştiren YZ teknolojisine öncelik verme olasılığı daha yüksek görünüyor.
YZ Şirketlerinin Artan Pazar Gücü ve Yoğunlaşma
Üretken YZ araçlarını geliştirmek, eğitmek, kullanmak ve sürdürmek yoğun kaynak gerektiriyor. YZ’nin çevresel maliyetlerine ek olarak, üretken YZ araçlarının geliştirilmesi ve bakımı inanılmaz derecede büyük miktarda para ve bilgi işlem kaynağına mal oluyor. OpenAI’nın ChatGPT’den kaynaklı kaybı 2022’de 540 milyon dolar oldu. Alphabet’in başkanı John Hennessy, daha önce kendi sohbet robotları olan Bard’da yapılan bir aramanın Google’daki normal bir aramanın 10 katına mal olduğunu söylemişti.
Ayrıca önde gelen üretken YZ araçlarının yararlandığı bulut bilişim hizmetlerinin çoğu Amazon, Google ve Microsoft gibi birkaç teknoloji şirketi tarafından sunuluyor. Bu birkaç şirket, üretken YZ’nin ihtiyaç duyduğu temel araçları ve hizmetleri de sağlıyor. Görünüşte “açık kaynak” teknolojileri teşvik etmelerine rağmen şeffaf olmayan YZ geliştirme süreçleri ve rekabeti kısıtlama olanakları ile pazarı ellerinde tutuyorlar. Gücün yalnızca birkaç büyük şirkette yoğunlaşmasının sektörün gelişimini kısıtlayıcı sonuçları oluyor. Örneğin belirli şirketler için çalışmak istemeyen veya bu şirketler tarafından reddedilen biri üretken YZ endüstrisinde çalışma olanağını da kaybediyor. Daha da kötüsü, üretken YZ’yi arama motorlarına entegre etmeye çalışan Google ve Microsoft bunda başarılı olduklarında insanların belirli bir bilgiyi aramasına yardımcı olan araçlar olmaktan çıkarak çeşitli soru(n)larımıza yanıt ve yardım aradığımız araçlara dönüşecek ve hayatımıza her zamankinden daha derin bir şekilde girecekler.
***
EPIC’in raporunun sonunda Microsoft’un baş ekonomisti Michael Schwarz’ın Nisan ayındaki sözlerine yer verilmiş. Schwarz, anlamlı bir zarar olmadığı sürece YZ’yi düzenlemeye gerek olmadığını ve şimdiye kadar 1000 dolarlık bir zarar bile olmadığını iddia ediyor.
Tam tersini düşünüyorum. Terminatör gibi robotlar yok ve robotların dünyayı ele geçireceğine dair bir işaret de yok. Fakat algoritmik zararlar uzun zamandır var ve üretken YZ araçlarıyla beraber algoritmik zararların kapsamı ve ciddiyeti artıyor. Robotların dünyayı işgali (!) ile karşılaştırıldığında telif haklarındaki kriz gibi sorunlar ufakmış gibi görünebilir. Bu bile sanata ve sanatçıya bakışımızda köklü değişikliklere neden olacak.
Şirketlerin YZ riski tartışmaları, çevre ve emek gibi asıl sorunların özüne dokunmadan var olan piyasa ilişkilerini yeniden üretecek gibi görünüyor. YZ’nin risklerini tartışacaksak önceliğimiz kâr değil, doğa ve insan olmalı. YZ’nin çevre ve iş gücüne etkileri birkaç şirketin inisiyatifine bırakılamayacak kadar önemli konular.
Şirketler YZ’yi varoluşsal bir risk olarak sunarak düzenleyici kurumların dikkatini kısa dönemde karşı karşıya olduğumuz sorunlardan uzun dönemli varsayımsal risklere çekmeye çalışıyor olabilirler. Ama neyin risk olup olmadığına karar vermenin kaynakların kıt olduğu bir dünyada sonuçları oluyor.
Kaynaklar
EPIC (2023). Generating Harms: Generative AI’s Impact & Paths Forward, https://epic.org/documents/generating-harms-generative-ais-impact-paths-forward/, son erişim 19.06.2023
İlk Yorumu Siz Yapın