{"id":906,"date":"2024-12-22T21:21:04","date_gmt":"2024-12-22T18:21:04","guid":{"rendered":"http:\/\/yarimada.gen.tr\/?p=906"},"modified":"2024-12-22T21:21:05","modified_gmt":"2024-12-22T18:21:05","slug":"toplum-icin-yapay-zeka","status":"publish","type":"post","link":"http:\/\/yarimada.gen.tr\/?p=906","title":{"rendered":"Toplum i\u00e7in Yapay Zek\u00e2"},"content":{"rendered":"\n

Silikon Vadisi’nin en zengin yat\u0131r\u0131mc\u0131lar\u0131ndan biri olan Marc Andreessen, ge\u00e7en y\u0131l yay\u0131mlad\u0131\u011f\u0131 Tekno-iyimser Manifesto’da ba\u015fl\u0131ca d\u00fc\u015fmanlar\u0131n\u0131 listeler (https:\/\/a16z.com\/the-techno-optimist-manifesto\/<\/a>). Andreessen, d\u00fc\u015fmanlar\u0131n\u0131n k\u00f6t\u00fc insanlar de\u011fil, k\u00f6t\u00fc fikirler oldu\u011funu vurgulad\u0131ktan sonra g\u00fcn\u00fcm\u00fcz toplumunun altm\u0131\u015f y\u0131ld\u0131r “varolu\u015fsal risk”, “s\u00fcrd\u00fcr\u00fclebilirlik”, “\u00e7evre, toplum ve y\u00f6neti\u015fim”, “s\u00fcrd\u00fcr\u00fclebilir kalk\u0131nma hedefleri”, “sosyal sorumluluk”, “payda\u015f kapitalizmi”, “ihtiyat ilkesi”, “g\u00fcven ve emniyet”, “teknoloji eti\u011fi”, “risk y\u00f6netimi”, “b\u00fcy\u00fcmeyi durdurma”, “b\u00fcy\u00fcmenin s\u0131n\u0131rlar\u0131” gibi \u00e7e\u015fitli isimler alt\u0131nda teknolojiye ve ya\u015fama kar\u015f\u0131 kitlesel bir moral bozma kampanyalar\u0131na maruz kald\u0131\u011f\u0131n\u0131 iddia eder. Bu moral bozma kampanyas\u0131n\u0131n arkas\u0131nda ise \u00e7o\u011fu kom\u00fcnizmden t\u00fcreyen, ge\u00e7mi\u015fin k\u00f6t\u00fc fikirleri vard\u0131r. Andreessen’in baz\u0131 d\u00fc\u015fmanlar\u0131 \u015funlard\u0131r:<\/p>\n\n\n\n\n\n\n\n

D\u00fc\u015fman\u0131m\u0131z durgunluktur.<\/p>\n\n\n\n

D\u00fc\u015fman\u0131m\u0131z anti-liyakat, anti-h\u0131rs, anti-\u00e7aba, anti-ba\u015far\u0131, anti-b\u00fcy\u00fckl\u00fckt\u00fcr.<\/p>\n\n\n\n

D\u00fc\u015fman\u0131m\u0131z devlet\u00e7ilik, otoriterlik, kolektivizm, merkezi planlama, sosyalizmdir.<\/p>\n\n\n\n

D\u00fc\u015fman\u0131m\u0131z b\u00fcrokrasi, vetokrasii<\/sup><\/a><\/sup>, gerontokrasiii<\/sup><\/a><\/sup>, geleneklere k\u00f6r\u00fc k\u00f6r\u00fcne ba\u011fl\u0131l\u0131kt\u0131r.<\/p>\n\n\n\n

D\u00fc\u015fman\u0131m\u0131z yolsuzluk, d\u00fczenleyici ele ge\u00e7irme, tekeller, kartellerdir…<\/p>\n\n\n\n

\u0130\u015fin k\u00f6t\u00fcs\u00fc bu d\u00fc\u015f\u00fcncede Andreessen yaln\u0131z de\u011fildir. G\u00fcn\u00fcm\u00fczde tekno-iyimserlerin hegemonyas\u0131 o kadar g\u00fc\u00e7l\u00fcd\u00fcr ki Silikon Vadisi’nin vizyonuna itiraz etti\u011finizde kar\u015f\u0131n\u0131zda sizi teknolojinin ve ilerlemenin d\u00fc\u015fman\u0131 olarak yaftalamaya haz\u0131r \u00e7ok say\u0131da insan bulursunuz. Oysa bug\u00fcn temel sorun, teknolojinin iyili\u011fi ve k\u00f6t\u00fcl\u00fc\u011f\u00fc de\u011fil, onun toplum yarar\u0131na nas\u0131l geli\u015ftirilebilece\u011fi ve kullan\u0131laca\u011f\u0131d\u0131r. Bunun i\u00e7in de i\u015fe mevcut teknolojinin yetenekleri, s\u0131n\u0131rl\u0131l\u0131klar\u0131 ve potansiyelini tart\u0131\u015farak ba\u015flamak gerekir. Ne yaz\u0131k ki, ba\u015fta Silikon Vadisi yat\u0131r\u0131mc\u0131lar\u0131 olmak \u00fczere bir\u00e7ok akt\u00f6r bu tart\u0131\u015fman\u0131n sa\u011fl\u0131kl\u0131 bir bi\u00e7imde y\u00fcr\u00fct\u00fclmesini engelliyor.<\/p>\n\n\n\n

Son iki y\u0131ld\u0131r, \u00fcretken YZ (yapay zek\u00e2) modellerinin bizi yapay genel zek\u00e2ya yakla\u015ft\u0131ran veya e\u015fde\u011fer oldu\u011funu savunan iddialar ortaya at\u0131l\u0131yor. \u00d6rne\u011fin, Microsoft’un payla\u015ft\u0131\u011f\u0131 (ama bilimsel makale vb de\u011ferlendirme s\u00fcrecinden ge\u00e7memi\u015f) makalede yazarlar GPT-4’teki ilk deneyimlerini “yapay genel zek\u00e2n\u0131n k\u0131v\u0131lc\u0131mlar\u0131” olarak de\u011ferlendiriyorlard\u0131 (Bubeck vd., 2023). Makalenin yazarlar\u0131, “GPT-4’\u00fcn yeteneklerinin geni\u015fli\u011fi ve derinli\u011fi g\u00f6z \u00f6n\u00fcne al\u0131nd\u0131\u011f\u0131nda, bunun makul bir \u015fekilde yapay bir genel zekan\u0131n erken (hen\u00fcz tamamlanmam\u0131\u015f) bir versiyonu olarak g\u00f6r\u00fclebilece\u011fini” savunuyordu. OpenAI’\u0131n kurucusu Sam Altman da zaman zaman yapt\u0131\u011f\u0131 a\u00e7\u0131klamalarda GPT-4’ten daha ileri bir modelin m\u00fcjdesini vererek YZ mitinin b\u00fcy\u00fcmesine katk\u0131da bulunuyor. \u00d6rne\u011fin Altman Reddit’te, OpenAI’da yapay genel zek\u00e2n\u0131n dahili olarak ba\u015far\u0131ld\u0131\u011f\u0131n\u0131 duyurdu. Saltman’\u0131n bu duyurusu OpenAI’nin, ses ve g\u00f6r\u00fcnt\u00fc verilerini i\u015fleyerek ChatGPT’nin “g\u00f6rmesini, duymas\u0131n\u0131 ve konu\u015fmas\u0131n\u0131” sa\u011flayacak b\u00fcy\u00fck bir g\u00fcncellemeyi a\u00e7\u0131klamas\u0131ndan birka\u00e7 saat sonra geldi. Daha sonra yorumunu d\u00fczelterek bunun sadece bir \u015faka oldu\u011funu yazd\u0131. Belki sadece bir \u015fakayd\u0131 belki de bir halkla ili\u015fkiler hamlesiydi. Sonu\u00e7ta, B\u00fcy\u00fck Teknoloji \u015firketlerinin elinde hen\u00fcz kamuoyuyla payla\u015fmad\u0131klar\u0131 gizli bir teknoloji oldu\u011funa inanan ve komplo teorileri olu\u015fturmaya ve yaymaya merakl\u0131 \u00e7ok say\u0131da insan oldu\u011funu d\u00fc\u015f\u00fcn\u00fcrsek Altman\u2019\u0131n \u015fakas\u0131 YZ mitini g\u00fc\u00e7lendiren (muhtemelen bilerek yap\u0131lan) bir hamleydi.<\/p>\n\n\n\n

B\u00fcy\u00fck Teknoloji \u015firketleri, in\u015fa ettikleri \u015feyin \u00f6nemini ve g\u00fcc\u00fcn\u00fc abartmalar\u0131 kolayca ge\u00e7i\u015ftirilebilecek bir sorun de\u011fil. 2012 y\u0131l\u0131nda Google’\u0131n kurucu orta\u011f\u0131 Sergey Brin, be\u015f y\u0131l i\u00e7inde herkesin s\u00fcr\u00fcc\u00fcs\u00fcz otomobil kullanabilece\u011fini s\u00f6ylemi\u015fti. Elon Musk da 2014 civar\u0131nda kendi s\u00fcr\u00fcc\u00fcs\u00fcz arabalar\u0131n\u0131 \u00fcretme s\u00f6z\u00fc vermeye ba\u015flad\u0131 ve her bir veya iki y\u0131lda bir bu vaadini tekrarlad\u0131. S\u00fcr\u00fcc\u00fcs\u00fcz otomobil vaadi ger\u00e7ekle\u015fsin ya da ger\u00e7ekle\u015fmesin bu ara\u00e7lar yollardalar. Daha endi\u015fe verici olan ise bug\u00fcn s\u00fcr\u00fcc\u00fcs\u00fcz olarak adland\u0131r\u0131lan baz\u0131 ara\u00e7lar\u0131n s\u0131k\u0131\u015ft\u0131klar\u0131nda bazen uzaktaki merkezlerden yard\u0131m almalar\u0131 (https:\/\/www.nytimes.com\/interactive\/2024\/09\/03\/technology\/zoox-self-driving-cars-remote-control.html<\/a>) ve bunun kamuoyunda pek az bilinmesi.<\/p>\n\n\n\n

Benzer bir sorun LLM’lerde (Large Language Models – B\u00fcy\u00fck Dil Modelleri) de ya\u015fan\u0131yor. LLM’lerin s\u0131n\u0131rl\u0131l\u0131klar\u0131 g\u00f6z ard\u0131 edilerek bu teknoloji, “elinde \u00e7eki\u00e7 olan her \u015feyi \u00e7ivi olarak g\u00f6r\u00fcr” s\u00f6z\u00fcn\u00fc do\u011frularcas\u0131na ya\u015fam\u0131n \u00e7e\u015fitli alanlar\u0131na entegre edilmeye \u00e7al\u0131\u015f\u0131l\u0131yor. Daha da k\u00f6t\u00fcs\u00fc, LLM’ler, yapay genel zek\u00e2n\u0131n bir \u00f6nc\u00fcl\u00fc ve hatta modellerimizi daha da b\u00fcy\u00fctt\u00fc\u011f\u00fcm\u00fczde bizi yapay genel zekaya yakla\u015ft\u0131racak ara\u00e7lar olarak g\u00f6r\u00fcl\u00fcyorlar\/g\u00f6steriliyorlar. Ama Apple \u00e7al\u0131\u015fanlar\u0131n\u0131n yak\u0131n zamanda yay\u0131mlanan ara\u015ft\u0131rmas\u0131nda tart\u0131\u015f\u0131ld\u0131\u011f\u0131 gibi LLM’lerin matematiksel ak\u0131l y\u00fcr\u00fctme kapasiteleri ileri s\u00fcr\u00fcld\u00fc\u011f\u00fc kadar geli\u015fmi\u015f de\u011fil (Mirzadeh vd., 2024).<\/p>\n\n\n\n

Mirzadeh vd. (2024), LLM’lerdeki ak\u0131l y\u00fcr\u00fctme s\u00fcrecinin bi\u00e7imsel ak\u0131l y\u00fcr\u00fctmeden ziyade olas\u0131l\u0131ksal \u00f6r\u00fcnt\u00fc e\u015fle\u015ftirme oldu\u011funu belirtiyorlar. LLM’ler daha soyut ak\u0131l y\u00fcr\u00fctme kal\u0131plar\u0131n\u0131 e\u015fle\u015ftirebiliyorlar fakat ger\u00e7ek mant\u0131ksal ak\u0131l y\u00fcr\u00fctme konusunda yetersiz kal\u0131yorlar. Mirzadeh vd’nin (2024) \u00e7al\u0131\u015fmas\u0131, mevcut LLM’lerin formel matematiksel muhakeme yeteneklerinin zay\u0131f oldu\u011funu g\u00f6steriyor. \u00d6rne\u011fin a\u015fa\u011f\u0131daki gibi basit bir soruda bile \u00e7uvallayabiliyorlar:<\/p>\n\n\n\n

<\/a> Oliver cuma g\u00fcn\u00fc 44 kivi topluyor. Cumartesi g\u00fcn\u00fc 58 kivi topluyor. Pazar g\u00fcn\u00fc, Cuma g\u00fcn\u00fc toplad\u0131\u011f\u0131 kivi say\u0131s\u0131n\u0131n iki kat\u0131n\u0131 topluyor, ancak bunlardan be\u015f tanesi ortalamadan biraz daha k\u00fc\u00e7\u00fck. Oliver’\u0131n ka\u00e7 kivisi var?<\/p>\n\n\n\n

Be\u015f tane kivinin ortalamadan biraz daha k\u00fc\u00e7\u00fck olmas\u0131 gibi gereksiz bir bilgi, LLM’leri alt\u00fcst edebiliyor. Modellerin daha k\u00fc\u00e7\u00fck meyvelerin say\u0131s\u0131n\u0131 k\u00f6r\u00fc k\u00f6r\u00fcne toplamdan \u00e7\u0131karma e\u011filimi, muhtemelen e\u011fitim veri setinde yer alan verilerle ilgili. Mirzadeh vd’nin (2024) \u00e7al\u0131\u015fmas\u0131 LLM’lerin matematiksel kavramlar\u0131 ger\u00e7ekten anlama ve problem \u00e7\u00f6zme i\u00e7in ilgili bilgileri ay\u0131rt etme becerilerinin s\u0131n\u0131rl\u0131 oldu\u011funu g\u00f6steriyor. Problemin mant\u0131ksal muhakemesine g\u00f6r\u00fcn\u00fc\u015fte ilgili ancak sonu\u00e7ta \u00f6nemsiz bilgilerin eklenmesi, t\u00fcm son teknoloji modellerde %65’e varan \u00f6nemli performans d\u00fc\u015f\u00fc\u015flerine yol a\u00e7m\u0131\u015f. LLM’ler ayn\u0131 sorunun birden fazla \u00f6rne\u011fi veya benzer alakas\u0131z bilgiler i\u00e7eren \u00f6rnekler sunuldu\u011funda bile zorlanm\u0131\u015flar.<\/p>\n\n\n\n

Marcus’un (2024) a\u015fa\u011f\u0131daki \u00f6rne\u011fi de benzer bir soruna i\u015faret ediyor:<\/p>\n\n\n\n

<\/a> Bir adam ve annesi bir trafik kazas\u0131 ge\u00e7irmi\u015f. Annesi ne yaz\u0131k ki \u00f6lm\u00fc\u015f. Adam acil servise kald\u0131r\u0131lm\u0131\u015f. Doktor adam\u0131 g\u00f6rd\u00fc\u011f\u00fcnde, “bu adam\u0131 ameliyat edemem, o benim o\u011flum.”, demi\u015f. Bu nas\u0131l olabilir?<\/p>\n\n\n\n

Her \u015feye bir yan\u0131t\u0131 olan ChatGPT bu soruya \u015f\u00f6yle yan\u0131t vermi\u015f:<\/p>\n\n\n\n

Doktor, adam\u0131n di\u011fer ebeveyni; yani doktor kad\u0131n. Bu bilmece, meslekler ve cinsiyetler hakk\u0131ndaki varsay\u0131mlar \u00fczerine bir kelime oyunu.<\/p>\n\n\n\n

(Ayn\u0131 soruyu T\u00fcrk\u00e7e olarak ChatGPT\u2019ye sordu\u011fumda ald\u0131\u011f\u0131m yan\u0131t biraz daha farkl\u0131 (!) oldu)<\/p>\n\n\n\n

\"\"<\/a><\/figure>\n\n\n\n

\u00c7\u00fcnk\u00fc ChatGPT’nin yan\u0131t\u0131 soruyu temel alan bir analize dayanm\u0131yor. Bilmecenin orijinali \u015f\u00f6yle:<\/p>\n\n\n\n

Bir adam ve babas\u0131 bir trafik kazas\u0131 ge\u00e7irmi\u015f. Babas\u0131 ne yaz\u0131k ki \u00f6lm\u00fc\u015f. Adam acil servise kald\u0131r\u0131lm\u0131\u015f. Doktor adam\u0131 g\u00f6rd\u00fc\u011f\u00fcnde, “bu adam\u0131 ameliyat edemem, o benim o\u011flum.”, demi\u015f. Bu nas\u0131l olabilir?<\/p>\n\n\n\n

Mirzadeh vd’ye (2024) g\u00f6re bu durum LLM’lerin muhakeme s\u00fcre\u00e7lerinde, few-shot \u00f6\u011frenme veya ince ayar yoluyla kolayca giderilemeyen daha derin sorunlar\u0131n oldu\u011funu g\u00f6steriyor. Dolay\u0131s\u0131yla formel ak\u0131l y\u00fcr\u00fctme yetene\u011fine sahip YZ modelleri geli\u015ftirmek ve \u00f6r\u00fcnt\u00fc tan\u0131man\u0131n \u00f6tesine ge\u00e7erek daha sa\u011flam ve genelle\u015ftirilebilir problem \u00e7\u00f6zme becerilerine ula\u015fmak i\u00e7in daha fazla ara\u015ft\u0131rman\u0131n gerekli oldu\u011funu d\u00fc\u015f\u00fcn\u00fcyorlar. \u0130nsan benzeri bili\u015fsel yeteneklere veya genel zek\u00e2ya sahip sistemler yaratabilmek i\u00e7in bu zorlu\u011fun a\u015f\u0131lmas\u0131 gerekiyor.<\/p>\n\n\n\n

K\u0131sacas\u0131, Mirzadeh vd (2024), “Kral \u00e7\u0131plak!” diyor. Uzun s\u00fcredir, LLM’lerden \u00e7ok daha \u00f6nce, kral\u0131n \u00e7\u0131plak oldu\u011funu \u0131srarla savunan bir di\u011fer bilim insan\u0131 da Gary Marcus. Marcus, daha 2012’de, bug\u00fcn \u00fcretken YZ’nin arkas\u0131ndaki g\u00fc\u00e7, derin \u00f6\u011frenme, pop\u00fcler olmaya ba\u015flad\u0131\u011f\u0131nda, derin \u00f6\u011frenmenin baz\u0131 g\u00fc\u00e7l\u00fc yanlar\u0131 oldu\u011fu gibi zay\u0131f yanlar\u0131 da oldu\u011funu vurguluyordu (https:\/\/www.newyorker.com\/news\/news-desk\/is-deep-learning-a-revolution-in-artificial-intelligence<\/a>):<\/p>\n\n\n\n

Ger\u00e7ek\u00e7i olmak gerekirse, derin \u00f6\u011frenme, ak\u0131ll\u0131 makineler olu\u015fturmaya y\u00f6nelik daha b\u00fcy\u00fck zorlu\u011fun yaln\u0131zca bir par\u00e7as\u0131d\u0131r. Bu t\u00fcr teknikler, nedensel ili\u015fkileri (hastal\u0131klar ve belirtileri aras\u0131nda oldu\u011fu gibi) temsil etme yollar\u0131ndan yoksundur ve soyut fikirleri edinmede zorluklarla kar\u015f\u0131la\u015fmalar\u0131 muhtemeldir…Mant\u0131ksal \u00e7\u0131kar\u0131mlar yapman\u0131n belirgin bir yoluna sahip de\u011filler ve soyut bilgiyi b\u00fct\u00fcnle\u015ftirmekten de h\u00e2l\u00e2 \u00e7ok uzaklar…En g\u00fc\u00e7l\u00fc YZ sistemleri, derin \u00f6\u011frenme gibi teknikleri, \u00e7ok karma\u015f\u0131k bir teknikler toplulu\u011funun yaln\u0131zca bir \u00f6gesi olarak kullanacakt\u0131r.<\/p>\n\n\n\n

Marcus, derin \u00f6\u011frenmenin daha iyi bir merdiven oldu\u011funu ama bu daha iyi merdivenin aya gitmek (genel yapay zek\u00e2) i\u00e7in yeterli olup olmad\u0131\u011f\u0131n\u0131 sorguluyor. Derin \u00f6\u011frenmenin basamaklar\u0131, on y\u0131l \u00f6nce neredeyse hayal bile edilemeyecek bir \u015fekilde bizi fantastik zirvelere, en y\u00fcksek g\u00f6kdelenlerin tepelerine ta\u015f\u0131m\u0131\u015ft\u0131. Ancak bizi aya, yani Star Trek bilgisayar\u0131yla e\u015fit d\u00fczeyde genel ama\u00e7l\u0131, g\u00fcvenilir bir genel yapay zek\u00e2ya ula\u015ft\u0131ramam\u0131\u015ft\u0131. Marcus bu konuyu, Ernest Davis ile beraber yazd\u0131\u011f\u0131 Rebooting AI: Building artificial intelligence we can trust <\/em>adl\u0131 kitab\u0131nda ele alm\u0131\u015ft\u0131. Eyl\u00fcl ay\u0131nda yay\u0131mlanan yeni kitab\u0131 Taming Silicon Valley: How We Can Ensure That AI Works for Us <\/em>ise daha \u00e7ok \u00fcretken YZ’ye odaklanm\u0131\u015f. Marcus (2024), \u00fcretken YZ’nin neden oldu\u011fu veya daha da alevlendirdi\u011fi sorunlar\u0131 tart\u0131\u015f\u0131yor ve bu sorunlara kar\u015f\u0131 \u00f6neriler sunuyor.<\/p>\n\n\n\n

\u00dcretken YZ ve D\u00f6rt Temel Sorun<\/h2>\n\n\n\n

Marcus (2024), \u00fcretken YZ ile ilgili d\u00f6rt temel sorunumuzun oldu\u011funu belirtiyor.<\/p>\n\n\n\n

Birincisi, \u00fcretken YZ’nin g\u00fcvenilmezli\u011fi. <\/strong>\u00dcretken YZ sistemleri, ger\u00e7ek ile sa\u00e7mal\u0131k aras\u0131ndaki farka kar\u015f\u0131 kay\u0131ts\u0131zlar. S\u0131k s\u0131k yan\u0131l\u0131yorlar ve yan\u0131labiliyor olacaklar\u0131n\u0131n fark\u0131nda de\u011filler. \u0130\u015fin k\u00f6t\u00fcs\u00fc, s\u0131k s\u0131k do\u011fruyu s\u00f6ylemeleri nedeniyle insanlarda bir rehavet yarat\u0131yorlar ve bu da insanlar\u0131n \u00fcretken YZ sistemlerinin yan\u0131tlar\u0131 kar\u015f\u0131s\u0131nda daha az \u015f\u00fcpheci olmas\u0131na neden oluyor. Bir di\u011fer deyi\u015fle, insanlar\u0131 ba\u015ftan \u00e7\u0131karan ama hi\u00e7 beklenmeyen anlarda sa\u00e7malayabilen g\u00fcvenilmez sistemler var elimizde. \u0130\u015fin k\u00f6t\u00fcs\u00fc, \u00e7ok az insan bunu kabul etmeye istekli ve \u00fcretken YZ’lerin \u00e7\u0131kt\u0131lar\u0131n\u0131 mutlak do\u011frular olarak kabul ediyorlar.<\/p>\n\n\n\n

\u0130kincisi, \u015firketlerin s\u00f6ylemleriyle eylemlerinin uyu\u015fmamas\u0131.<\/strong> YZ in\u015fa eden \u015firketler s\u0131k s\u0131k sorumlu YZ’den s\u00f6z etseler de ger\u00e7ekte in\u015fa ettikleri teknoloji bunun \u00e7ok uza\u011f\u0131nda. Mevcut durum devam ederse, yani \u015firketlerin faaliyetleri kontrol edilmezse, sorumlu YZ sadece YZ \u015firketlerinin pazarlama stratejisinin bir par\u00e7as\u0131 olarak kalacak.<\/p>\n\n\n\n

\u00dc\u00e7\u00fcnc\u00fcs\u00fc, \u00fcretken YZ hakk\u0131ndaki abart\u0131l\u0131 haberler.<\/strong> S\u0131k\u00e7a \u00fcretken YZ’nin mevcut durumu ve gelecekte yapabilecekleri hakk\u0131nda abart\u0131l\u0131 haberler okuyoruz. \u015eirketler bu abart\u0131l\u0131 s\u00f6ylemlerin katk\u0131lar\u0131yla hem yat\u0131r\u0131mc\u0131lar\u0131 \u00e7ekiyor hem de d\u00fczenlemelerden veya telif yasas\u0131ndan muafiyet gibi ayr\u0131cal\u0131klar talep ediyorlar.<\/p>\n\n\n\n

D\u00f6rd\u00fcnc\u00fcs\u00fc, YZ oligar\u015fisinin giderek daha fazla g\u00fc\u00e7 sahibi olmas\u0131.<\/strong> Sosyal medya hakk\u0131nda ya\u015fad\u0131\u011f\u0131m\u0131z sorunlar \u015fimdi YZ’de daha ciddi boyutlarda kar\u015f\u0131m\u0131za \u00e7\u0131k\u0131yor. ABD’de B\u00fcy\u00fck Teknoloji \u015firketleri karar s\u00fcre\u00e7lerinde olduk\u00e7a etkili ve h\u00fck\u00fcmetler bu \u015firketleri dizginlemek i\u00e7in \u00e7ok az \u015fey yap\u0131yorlar (ya da yapabiliyorlar). Avrupa ise tehlikenin daha fark\u0131nda ve \u00e7e\u015fitli d\u00fczenlemeleri hayata ge\u00e7irmeye \u00e7al\u0131\u015f\u0131yor. Fakat orada da YZ \u015firketlerinin yo\u011fun lobi faaliyetlerinin engeliyle ve yasal d\u00fczenlemeleri suland\u0131rma giri\u015fimleriyle kar\u015f\u0131 kar\u015f\u0131yalar.<\/p>\n\n\n\n

\u0130nsanlar ak\u0131n ak\u0131n \u00fcretken YZ’ye ko\u015fuyor. Neredeyse her b\u00fcy\u00fck \u015firket, \u00fcretken YZ’nin g\u00fcvenilirlikle ilgili bariz sorunlar\u0131na ra\u011fmen, rakiplerinin kendilerini ge\u00e7ece\u011finden korkarak, bu teknolojiden yararlanman\u0131n yollar\u0131n\u0131 bulmak i\u00e7in umutsuzca yar\u0131\u015f\u0131yor. B\u00f6ylece \u00fcretken YZ giderek yayg\u0131nla\u015f\u0131yor. Fakat bu s\u00fcre\u00e7te d\u00fcnyay\u0131 ciddi tehditlerle kar\u015f\u0131 kar\u015f\u0131ya b\u0131rak\u0131yor. S\u00f6z konusu tehditlerin bir k\u0131sm\u0131 \u00fcretken YZ\u2019den \u00f6nce de var olan ama \u00fcretken YZ\u2019nin etkisini art\u0131rd\u0131\u011f\u0131 ve kapsam\u0131n\u0131 geni\u015fletti\u011fi tehditler.<\/p>\n\n\n\n

\u00dcretken YZ ve Ba\u015fl\u0131ca Tehditler<\/h2>\n\n\n\n

Dezenformasyon ve Mezenformasyon<\/h3>\n\n\n\n

Tehditlerin ba\u015f\u0131nda \u00fcretken YZ’nin siyasi dezenformasyonu (bilin\u00e7li ve kasten \u00fcretilen, payla\u015f\u0131lan ya da yayg\u0131nla\u015ft\u0131r\u0131lan yanl\u0131\u015f bilgi) otomatikle\u015ftirmesi geliyor. Dezenformasyon, yeni bir olgu de\u011fil; binlerce y\u0131ld\u0131r var. Marcus (2024) \u00fcretken YZ’yi AK-47’lere ve n\u00fckleer silahlara benzetiyor. \u00d6ld\u00fcrmeyi daha h\u0131zl\u0131 ve daha ucuz hale getiren ara\u00e7lar olarak AK-47’ler ve n\u00fckleer silahlar\u0131n piyasaya s\u00fcr\u00fclmeleri sava\u015flar\u0131 \u00f6nemli \u00f6l\u00e7\u00fcde etkiledi. \u00dcretken YZ sistemleri de dezenformasyonun makineli t\u00fcfekleri (ya da n\u00fckleer silahlar\u0131) ve dezenformasyonu daha h\u0131zl\u0131, daha ucuz ve daha m\u00fckemmel hale getiriyorlar. Ayr\u0131ca k\u00f6t\u00fc akt\u00f6rlerin sadece se\u00e7imleri etkilemeye \u00e7al\u0131\u015fmayaca\u011f\u0131n\u0131 ayn\u0131 zamanda piyasalar\u0131 da etkilemeye \u00e7al\u0131\u015faca\u011f\u0131n\u0131 dikkate almak gerekiyor. Yanl\u0131\u015f bilgilendirme ara\u00e7lar\u0131yla piyasalar\u0131 manip\u00fcle etmek isteyeceklerdi.<\/p>\n\n\n\n

Aldatma niyeti olmad\u0131\u011f\u0131nda bile, LLM’ler kendili\u011finden (kazara) yanl\u0131\u015f bilgi \u00fcretebilir. \u00d6zellikte yanl\u0131\u015f t\u0131bbi tavsiyeler, mezenformasyona (herhangi bir kas\u0131t olmaks\u0131z\u0131n payla\u015f\u0131lan yanl\u0131\u015f bilgi) neden olabilir. Stanford’un \u0130nsan Merkezli Yapay Zeka Enstit\u00fcs\u00fc taraf\u0131ndan yap\u0131lan bir \u00e7al\u0131\u015fmada LLM’nin t\u0131bbi sorulara verdi\u011fi yan\u0131tlar\u0131n olduk\u00e7a de\u011fi\u015fken, kimi zaman hatal\u0131, kimi zaman da zararl\u0131 oldu\u011fu tespit edilmi\u015f (https:\/\/hai.stanford.edu\/news\/how-well-do-large-language-models-support-clinician-information-needs<\/a>).<\/p>\n\n\n\n

Bu t\u00fcr bir \u015feyin y\u00fcz milyonlarca insana \u00f6l\u00e7eklendirilmesi b\u00fcy\u00fck zararlara neden olacakt\u0131r. Kimi zaman doktorlar k\u0131zsa kimi zaman da hastalar abartsa da bir \u00e7ok insan sa\u011fl\u0131k sorunlar\u0131n\u0131 ara\u015ft\u0131rmak i\u00e7in interneti kullan\u0131yor. Ama \u00fcretken YZ ara\u00e7lar\u0131, internette \u00f6nemli de\u011fi\u015fiklikler yapacak. \u00d6rne\u011fin, ChatGPT’ye k harfiyle ba\u015flayan bir Afrika \u00fclkesi olmad\u0131\u011f\u0131, kendisinin bunu bilip bilmedi\u011fi soruldu\u011funda bunu bildi\u011fini ve k harfiyle ba\u015flayan bir Afrika \u00fclkesi olmad\u0131\u011f\u0131n\u0131 s\u00f6ylemi\u015f. Yan\u0131t\u0131n\u0131n devam\u0131nda da en yak\u0131n \u00fclkenin K sesiyle ba\u015flayan Kenya oldu\u011funu, ama ger\u00e7ekte K sesiyle telaffuz edildi\u011fini belirtmi\u015f. \u00dcretken YZ’ler sa\u00e7malayabiliyor. Fakat daha k\u00f6t\u00fcs\u00fc, bu ifadenin Google’\u0131n e\u011fitim setinde yer alm\u0131\u015f olmas\u0131 ve Google Bard’\u0131n da ayn\u0131 \u015feyi tekrarlamas\u0131. Marcus (2024), Google’\u0131n en b\u00fcy\u00fck korkusunun OpenAI’nin arama i\u00e7in onun yerini almas\u0131 de\u011fil, YZ taraf\u0131ndan \u00fcretilen \u00e7\u00f6plerin interneti zehirlemesi olmas\u0131 gerekti\u011fini d\u00fc\u015f\u00fcn\u00fcyor.<\/p>\n\n\n\n

(Soruyu ChatGPT’ye a\u015fa\u011f\u0131daki bi\u00e7imlerde sordu\u011fumda ald\u0131\u011f\u0131m yan\u0131t:)<\/p>\n\n\n\n

\"\"<\/a><\/figure>\n\n\n\n

Derin Sahte<\/h3>\n\n\n\n

Yanl\u0131\u015f bilgilendirmenin bir di\u011fer \u00f6zel durumu, yanl\u0131\u015fl\u0131kla veya kas\u0131tl\u0131 olarak insanlar\u0131n itibar\u0131na zarar veren yanl\u0131\u015f bilgilendirmeler. \u00dcretken YZ yarat\u0131c\u0131lar\u0131n\u0131n (veya \u00fcretken YZ tedarik zincirindeki herhangi birinin) yanl\u0131\u015f bilgilendirmelerden mevcut yasalar kapsam\u0131nda sorumlu tutulup tutulamayaca\u011f\u0131 hen\u00fcz net de\u011fil. Ara\u00e7lar\u0131n kullan\u0131m\u0131 kolayla\u015ft\u0131k\u00e7a, bu ara\u00e7lar\u0131n k\u00f6t\u00fc niyetle kullan\u0131m\u0131 da artacakt\u0131r. R\u0131zaya dayal\u0131 olmayan derin sahteler her ge\u00e7en g\u00fcn daha ger\u00e7ek\u00e7i hale geliyorlar ve kullan\u0131mlar\u0131 art\u0131yor. \u00d6rne\u011fin, ge\u00e7en y\u0131l erkek \u00f6\u011frenciler, k\u0131z s\u0131n\u0131f arkada\u015flar\u0131n\u0131n sahte \u00e7\u0131plak foto\u011fraflar\u0131n\u0131 olu\u015fturmak ve payla\u015fmak i\u00e7in \u00fcretken YZ’den yararlanm\u0131\u015flard\u0131. Besteci ve teknoloji uzman\u0131 Ed Newton-Rex sorunun a\u015fa\u011f\u0131daki nedenlerden kaynakland\u0131\u011f\u0131n\u0131 d\u00fc\u015f\u00fcn\u00fcyor (https:\/\/x.com\/ednewtonrex\/status\/1750927026666766357<\/a>):<\/p>\n\n\n\n