Özgür yazılım ile açık kaynak yazılım arasındaki ayrım, çoğu zaman teknik bir tercih gibi sunulsa da meselenin arka planında özgürlüğün nasıl tanımlandığına dair daha geniş bir tartışma yer alır. Açık kaynak yaklaşımı ağırlıklı olarak kaynak koduna erişimi merkeze alırken, Özgür Yazılım Hareketi özgürlük kavramını bunun ötesine taşır. Bu nedenle hareket, yalnızca yazılım geliştirme pratikleriyle değil, kullanılan kavramların taşıdığı anlamlarla ve bu anlamların toplumsal sonuçlarıyla da ilgilenir.
Bu çerçevede, dilin kullanımı özel bir önem kazanır. Bazı terimlerin dikkatle ele alınması, hatta kimi durumlarda hiç kullanılmaması gerekir. Örneğin “fikrî mülkiyet hakkı” ya da “bulut bilişim” gibi ifadelerin, farklı hukuksal ve teknik alanları tek bir başlık altında toplayarak sınırları belirsizleştirdiği savunulmaktadır. Yayıncılık, hukuk ya da müzik endüstrisi gibi alanlarda “telif hakkı” yerine “fikrî mülkiyet” ifadesinin yaygınlaşması bu duruma sıkça verilen örnekler arasındadır. Bu tür bir kullanım, telif hakkı, patent, marka ve ticari sır gibi terimlerin aynı çerçevede değerlendirilmesine yol açar.
Özgür Yazılım Hareketi açısından sorun tam da burada ortaya çıkar. Bu ifadeler, tarihsel kökenleri, işlevleri ve kamu politikalarıyla kurdukları ilişkiler bakımından birbirinden ayrılır. Bu nedenle, telif hakkı, patent ya da marka üzerine konuşurken, her birinin kendi bağlamı içinde ele alınması gerektiği özellikle vurgulanır. Aksi hâlde, aralarındaki farklar görünmez olur ve kavramlar, açıklayıcı olmaktan çok yanıltıcı bir işleve bürünür.
Benzer bir tartışma, bulut bilişim etrafında da yaşanır. Richard Stallman, bulut bilişimi masum bir teknik yenilik olarak değil, kullanıcıyı belirli ilişki biçimlerine alıştıran bir tuzak olarak görür ve bu nedenle bulut teriminden özellikle kaçınılması gerektiğini savunur. Ona göre bulut bilişim bir teknik tercihten çok, hesaplama (computing) üzerine düşünme biçimini şekillendiren bir söylemi ifade eder.
Stallman bu söylemi, sorgulamayı dışlayan bir zihniyetle ilişkilendirir: Hesaplamaların kim tarafından kontrol edildiği ya da verilerin kimin elinde tutulduğu sorularını sormamayı telkin eden; hizmetin içine gizlenmiş olası riskleri araştırmadan, şirketlere koşulsuz güvenmeyi normalleştiren bir yaklaşım. Kendi ifadesiyle bu, “saf olun” çağrısına benzeyen bir düşünme biçimidir. Zihindeki bir bulut, bilişim üzerine açık ve net düşünmenin önünde bir engel oluşturur. Bu nedenle, bilişimi gerçekten anlamak isteyenlerin bulut metaforundan uzak durması daha iyi olacaktır.
Aslında söz konusu bulut bilişim uygulamaları, “Hizmet olarak Yazılım” (Software as a Service) başlığı altında anılır. Bu yaklaşım, yazılımın kullanıcılara kopya olarak dağıtılması yerine, bir sunucu üzerinde çalıştırılmasını ve ağ üzerinden erişilmesini ifade eder. Ancak Stallman’a göre bu tanım da asıl meseleyi tam olarak görünür kılmaz. Bu nedenle “Yazılımın Yerine Geçen Hizmet” ifadesini önerir. Bu adlandırma, kullanıcıların yazılım üzerindeki denetimi nasıl kaybettiklerini ve sorunun neden yalnızca teknik değil, aynı zamanda politik bir boyut taşıdığını daha açık biçimde ortaya koyar.
Kaçınılması ya da en azından dikkatle kullanılması gereken kavramların listesine aşağıdaki adresten erişebilirsiniz:
https://www.gnu.org/philosophy/words-to-avoid.html
Yapay zekâya (YZ) yaklaşırken de benzer bir dilsel titizliğin, olası sorunların fark edilmesi ve bunlara yönelik çözümlerin geliştirilmesinde faydalı olacağını düşünüyorum. Bilinç, etik veya regülasyon (düzenleme) gibi konuları tartışırken, ele aldığımız teknolojiyi mümkün olduğunca net tanımlamalıyız. Özellikle bir teknolojinin yeteneklerinden ve risklerinden söz ederken, her şeyi “yapay zekâ” çatısı altında toplamak yerine daha spesifik terimler kullanmak sorunları (ve olası çözümleri) daha açık seçik görebilmemizi sağlayabilir. Yapay genel zekâ, yapay öğrenme, öngörücü (predictive) YZ, derin öğrenme veya üretken yapay zekâ gibi ifadeler, tartışmanın hem teknik hem de kavramsal temelini daha sağlam kuruyor.
30 Kasım 2022’de ChatGPT’nin çıkışıyla YZ’de yeni bir dönem başladı. Üretken YZ teknolojileri bir yandan gündelik yaşamın parçası hâline gelirken, diğer yandan bu büyüleyici teknolojinin yönetimi kritik bir tartışma konusu olarak öne çıkıyor. YZ uzmanları, iş adamları ve akademisyenler art arda yaptıkları uyarılarla bu teknolojinin risklerine dikkat çekiyorlar. Bu uyarıların bir kısmı üretken YZ’yi yapay genel zekâya giden bir yol olarak görmekle ilgili. Diğer kısmı ise, üretken YZ ile ortaya çıkan veya daha belirgin hâle gelen halüsinasyon, telif hakları ve mahremiyet gibi sorunlardan kaynaklanıyor. Bu nedenle, ulusal ve uluslararası regülasyon (düzenleme) talepleri giderek artıyor. Ancak üretken YZ, hem geçmiş dönemin teknolojilerinden hem de birkaç yıl öncesinin yaygın YZ yaklaşımı olan öngörücü YZ’den farklı bir düzenlemeye ihtiyaç duyuyor. Bu bağlamda, genel geçer bir YZ yerine, üretken YZ’den, öngörücü YZ’den ya da yapay genel zekâdan söz etmek karşı karşıya olduğumuz riskler hakkında daha berrak bir biçimde düşünebilmemizi sağlayacaktır.
Yazının devamında, üretken YZ’nin regülasyonunu ele alan iki çalışmaya değineceğim: Öncelikle Judge vd.’nin (2025) kara kutu YZ sistemlerini nükleer ve havacılık teknolojilerinden ayıran tezlerini inceleyeceğim; ardından Wang vd.’nin (2025) üretken YZ ile öngörücü YZ arasındaki farkları ortaya koyan ve üretken YZ’nin regülasyonu için önerilerini sunan çalışmalarını aktaracağım.
Havacılığın ve Nükleer Enerjinin Regülasyonu
Hukuk profesörü Lawrence Lessig, 1999’da yayımlanan Code and Other Laws of Cyberspace adlı kitabında ortaya koyduğu “Kod, kanundur” teziyle dönemin ruhunu yansıtmıştı. Lessig, dijital ortamlarda davranışları fiilen belirleyen asıl gücün hukuk metinleri değil, yazılım kodu olduğunu vurguluyordu. Kod, dijital etkileşimleri şekillendiren temel bir güç hâline gelmişti.
Judge vd (2025) ise üretken YZ ile birlikte, kodun artık “kanun” işlevi görmediğini ileri sürüyor. Bu sistemler, trilyonlarca parametrenin ayarlanması ve yoğun kaynak gerektiren bir eğitim süreci sonucunda oluşuyor. Bu nedenle, örneğin “büyük dil modelleri tıbbi tavsiye vermemelidir” gibi bir kuralı doğrudan modele kodlamak mümkün olmuyor. Bunun yerine, yeterli pekiştirme sonrası modelin istenen davranışı göstermesi bekleniyor. Kod, bu sistemlerin davranışını açık biçimde belirlemediği için belirli bir düzenleyici standarda uygunluğu göstermek de neredeyse imkânsız hâle geliyor. Yanlış davranışların nedenlerini izlemek ve düzeltmek zorlaşıyor. Veri odaklı “kara kutu” sistemler üzerine inşa edilen YZ teknolojileri var oldukça, onları düzenleyen rejimler de çoğu zaman eksik kalıyor.
Judge vd (2025) büyük dil modellerinin regülasyonunu havacılık ve nükleer santral kontrol sistemlerindeki regülasyonlarla karşılaştırıyorlar ve üretken YZ sistemlerinin regülasyonunun havacılık ve nükleer enerji kontrol sistemleri için geçerli olan yöntemlere dayanamayacağını savunuyorlar. Çünkü öncelikle, nükleer santraller ve uçakların davranışlarını ayrı ayrı ve bir bütün olarak tahmin etmek için analiz edilebilen bileşen yapılarına ve bileşen tabanlı fiziksel modellere sahip olduğunu büyük dil modellerinin ise kara kutular olduğuna dikkat etmek gerekiyor. Bir uçak arızalandığında analiz, arızanın kaynağını tespit edebilir; arızalı bileşenler veya etkileşimler daha sonra arızanın tekrarlanmasını önlemek için düzeltilebilir. Büyük dil modellerinin kara kutu niteliği ise arızanın kaynağını bu şekilde izlemeyi ve tekrarını önlemek için düzeltmeyi imkansız kılar. Üretken YZ kodunda kurallar kesin değildir. Dolayısıyla teknik şartnameler, denetimler ve testlere dayalı bir düzenleme yaklaşımı güvenlik ve güvenilirliği garanti edemez.
ABD’de FAA (Federal Aviation Administration – Federal Havacılık İdaresi), havacılık sektörünün tüm yaşam döngüsünden sorumludur. Pilot ve mekaniklerin lisanslanmasından, uçakların sertifikalandırılmasına; hava trafik kontrolü ve hava sahasının yönetiminden güvenlik denetimlerine ve kaza müdahalelerine kadar pek çok alan FAA’nın çalışma kapsamına girer. Her yeni uçak modeli, üretim tesisi denetimleri ve test uçuşları dahil olmak üzere sıkı bir teknik değerlendirmeden geçmek zorundadır. Bu değerlendirmeleri geçen modeller ticari kullanım için sertifikalandırılırlar. Bir kaza meydana geldiğinde ise FAA, mevcut tasarımlardaki kusurları ortaya çıkaran ve uygun düzeltici önlemlerin alınmasını zorunlu kılan kapsamlı kaza raporları hazırlar. Bu süreç sayesinde uçakları ve hava yolculuğunu düzenleyerek, binlerce kişinin hayatını tehlikeye atabilecek kazaların önüne geçilebilmektedir.
NRC (Nuclear Regulatory Commission – Nükleer Düzenleme Komisyonu) ise büyük ölçekli ölüm ve yıkım riski taşıyan nükleer enerji ve silahları düzenlemek amacıyla kurulmuştur. İlk başlarda birçok kişi nükleer enerjiyi, küresel yaşam standartlarını yükseltebilecek devrim niteliğinde bir teknoloji olarak görüyordu. Ancak ABD’nin Hiroşima ve Nagazaki’ye attığı atom bombaları, nükleer enerjinin doğasındaki ciddi tehlikeleri gözler önüne serdi.
1954 tarihli AEA (Atomic Energy Act – Atom Enerjisi Yasası), özel şirketlerin nükleer malzemelere sahip olmasına ve bunları kullanmasına ilk kez izin verirken, bu süreçlerin Atom Enerjisi Komisyonu (daha sonra NRC olarak yeniden yapılandırıldı) tarafından lisanslama ve düzenlemeye tabi olmasını öngördü. Yasa, Atom Enerjisi Komisyonu’na üç ana düzenleme ve denetim alanı tanımladı: silah geliştirme, nükleer enerjinin ticarileştirilmesi ve güvenlik düzenlemeleri. AEA, sivil nükleer enerji tesisleri için sıkı bir lisanslama rejimi oluşturdu; nükleer santral inşa etmek ve işletmek isteyen şirketler, kapsamlı bir başvuru sürecinden geçmeli ve katı güvenlik şartlarını karşılamalıydı.
FAA ve NRC’nin işleyişi birçok açıdan benzerlik gösterir. Her iki kurum da, ortaya çıkan arıza veya tehlike durumlarına yanıt verebilmek için kapsamlı bir lisanslama, belgeleme ve onay süreci yürütür. Hem FAA hem de NRC, kendi alanlarında derin uzmanlığa sahip bilim insanları ve mühendislerden oluşan bir kadroya sahiptir. Ayrıca, her iki kurum da gerektiğinde ürünleri ve hizmetleri piyasadan geri çekme veya tamamen sonlandırma yetkisine sahiptir. Bu ortak özellikler, üretken YZ için benzer bir düzenleyici çerçevenin temelini oluşturabilir.
Buna karşın Judge vd’nin (2025) öne sürdüğü gibi, üretken YZ’nin regülasyonu, havacılık ve nükleer enerji alanlarındaki geleneksel düzenlemelerden farklı bir yol izlemek zorundadır.
Birincisi, üretken YZ sistemleri, genel amaçlı teknolojiler kategorisine girer. Bu tür teknolojiler ekonomi genelinde birçok farklı alanda kullanılabilir, diğer sektörlere yayılabilir ve uluslararası güç dengelerini veya askeri operasyonların yürütülmesini dönüştürebilir. Üretken YZ’nin, elektrik veya internet gibi genel amaçlı bir teknoloji olması, regülasyonunu daha karmaşık hâle getiriyor. Buna karşın, hem elektrik hem de internet son derece ayrıntılı biçimde düzenlenmiş durumda. Elektrik için belirli voltajlar, frekanslar, kablolar ve fişler standart olarak tanımlanmıştır. İnternet ise ağ protokolleriyle düzenlenir ve IETF (İnternet Mühendisliği Görev Gücü) küresel ölçekte düzenleyici rol üstlenir. Genel amaçlı bir teknolojinin yaygın olarak uygulanabilmesi için, çok çeşitli alt kullanıcılar arasında birlikte çalışabilirliği sağlamak amacıyla titiz bir standartlaştırma süreci gerekir.
İkinci olarak, hükümet, nükleer enerji ve havacılığın geliştirilmesinde oynadığı role kıyasla, üretken YZ’nin geliştirilmesinde daha sınırlı bir role sahiptir. ABD’nin Büyük Teknoloji şirketleri, üretken YZ’nin yönü üzerinde önemli ölçüde kontrol ve etki sağlayan modeller geliştirmiştir. Bunun yanı sıra, Meta’nın LLaMA modeli ve HuggingFace platformu etrafında bir açık kaynak üretken YZ ekosistemi oluşmuştur. Her iki yaklaşım da kendine özgü düzenleyici zorluklar yaratıyor. Bir yandan temel modellerin ekonomisi, tekelciliğe doğru bir eğilim gösterir. Öte yandan, açık kaynaklı YZ, potansiyel olarak önemli riskler içerir. Çünkü kullanıcılar modelin güvenlik önlemlerini kolayca değiştirebilir ve güvenli olmayan modeller çevrimiçi ortamda hızla yayılabilir.
Üçüncü olarak, YZ’nin regülasyonunun merkezinde insani değerler yer alır. Havacılık veya nükleer enerjideki düzenlemelerin temel amacı, uçak kazalarını veya nükleer enerji kaynaklı olayları önlemektir ve bu bağlamda güvenlik, açık, iyi tanımlanmış ve tartışmasız bir kavramdır. YZ’de ise güvenlik çok daha belirsiz bir kavram olarak karşımıza çıkar. Örneğin, güvenli bir YZ hem zarar vermemeli hem de insan değerleriyle uyumlu olmalıdır. Ancak insan değerlerinin inceliği, karmaşıklığı ve tartışmalı doğası, bu hedefi doğası gereği zorlaştırır ve ahlak felsefesinde çözülmemiş birçok sorunu da beraberinde getirir.
Dördüncüsü, YZ’nin birçok alanda insan yeteneklerini aşma potansiyeli vardır. Bu alandaki çalışmaların nihai amacı ise ilgili her boyutta insan yeteneklerine denk veya onları aşan makineler yaratmaktır. Fakat mevcut güvenlik seviyeleri ile yapay genel zekâya doğru bir gelişme, kabul edilemez risklere yol açabilir.
Beşinci olarak, sinir ağı tabanlı YZ sistemleri, tasarımcıların tüm davranışlarını belirlediği sistemler değildir. Sistemlerin özellikleri, büyük ölçüde eğitim süreci sırasında ortaya çıkar. Bir derin öğrenme sistemi, belirli bağlamlardaki çıktıları geriye dönük olarak değerlendirilebilir ve istenen performansla karşılaştırılabilir; ancak sistemin her durumda beklendiği gibi davranacağını garanti etmenin bir yolu yoktur. Üretken YZ’de ise çıktıların büyük bir kısmı olasılıksal ve tahminî olduğundan, belirsizlik ve rastlantısallık düzeyi çok daha yüksektir; bu da sonuçların önceden kesin olarak kestirilemeyeceği anlamına gelir.
Kısacası, üretken YZ sistemlerini uçak veya nükleer enerji sistemleri gibi aynı şekilde düzenlemek mümkün değildir. Bu tür sistemler, bileşen yapıları ve fiziksel modelleri sayesinde analiz edilebilir ve belirli ölçüde tahmin edilebilir. Oysa kara kutu YZ sistemlerinde bu mümkün değildir. Dahası, üretken YZ genel amaçlı bir teknoloji olduğu için potansiyel etkileri çok geniştir ve düzenleme işleri daha da karmaşık hâle gelir.
Öngörücü YZ ve Üretken YZ
Son on yılda, YZ teknolojilerinin regülasyonu üzerine önemli çalışmalar yapıldı ve çeşitli araçlar geliştirildi. İstihdam, kredi, konut ve kamu yardımları gibi alanlarda öngörüye dayalı sistemlerin kullanımını düzenlemek amacıyla sektöre özgü çerçeveler oluşturuldu. Ancak mevcut çerçeveler, üretken YZ teknolojilerinin yeteneklerini ve risklerini ele almakta yetersiz kalıyor. Bunun nedeni, üretken YZ’nin önceki çalışmaların odaklandığı öngörücü YZ teknolojilerinden farklı bir yapıya sahip olması. Wang vd (2025), bu farklılıkları dört maddede özetliyor:
1. Genel amaçlı tasarımları,
2. Değerlendirmelerindeki zorluklar,
3. Yeni yasal endişelerin ortaya çıkması,
4. Dağıtılmış değer zinciri yapısı.
Bu farklılıklar, öngörüye dayalı sistemler için tasarlanmış gözetim ve hesap verebilirlik mekanizmalarının üretken sistemlere uygulandığında neden işlevsiz kaldığını gösteriyor.
Genel Amaçlı Tasarımları
Mevcut düzenleyici mekanizmalar, üretken modellerin genellikleri ve uyarlanabilirlikleri karşısında yetersiz kalıyor. Üretken modeller, özel bir eğitim gerektirmeden, oldukça farklı görevler için uyarlanabiliyor. Örneğin GPT-4, temel modeli değiştirmeden; çeşitli konularda ve stillerde insan benzeri metinler üretebiliyor, görüntüleri işleyip oluşturabiliyor, gerçek zamanlı sözlü etkileşimlere katılabiliyor, karmaşık akıl yürütme görevlerini yerine getirebiliyor ve kod yazıp hata ayıklayabiliyor.
Öngörüye dayalı sistemler ise belirli görevler için tasarlanır. İnsanların karar verme süreçlerini kolaylaştırır, destekler ve kimi durumlarda bu süreçleri tamamen otomatikleştirir. Bu tür sistemlerin karar alma mekanizmalarına dâhil edilmesi, adalet, şeffaflık ve hesap verebilirlik gibi alanlarda öngörülebilir sorunlar doğurur. Bu da politika yapıcıların, öngörüye dayalı YZ’nin yol açtığı daha genel ve tekrarlayan zararları hedef alan düzenleyici çerçeveler geliştirebilmesini sağlar. Adil yargılanma, ayrımcılık yapmama ve mahremiyet gibi ilkeler, bu çerçeveler için görece tutarlı bir zemin sunar. Bu doğrultuda, otomatik karar sistemleri için bildirim ve açıklama talep etme hakkı ya da algoritmik önyargıdan korunma gibi ortak beklentileri içeren düzenlemeler hayata geçirilebilir. Ayrımcılığa yol açan algoritmik karar verme sistemlerinin kullanımı, satışı ya da pazarlanması ise doğrudan yasaklanabilir.
Üretken YZ sistemleri, çok çeşitli kullanım alanlarına sahip olabilir. Bu uygulamalar aynı teknik temele dayansa da ortaya çıkardıkları risk profilleri büyük ölçüde farklılaşır. Öngörüye dayalı YZ’de olduğu gibi, üretken YZ de işe alım, kredi verme ve barınma gibi yüksek riskli bağlamlarda karar verme amacıyla kullanılabilir ve bu durum benzer adalet, ayrımcılık ve hesap verebilirlik sorunlarını gündeme getirir.
Bununla birlikte üretken YZ, çocuklara yönelik hikâyeler üretmek için de kullanılabilir; bu kullanım biçimi yaşa uygun içerik ve telif hakları gibi bambaşka endişeleri beraberinde getirir. Yasal belge hazırlamada kullanılan üretken YZ sistemlerinin halüsinasyonları, hatalı veya uydurma bilgilerin resmî süreçlere girmesine yol açabilir. Benzer şekilde, sağlık alanında yanlış veya yanıltıcı öneriler sunması, bireyleri zararlı tercihlere yönlendirebilir. Müşteri hizmetlerinde kullanılan sistemler, hassas ya da gizli bilgilerin ifşası riskini taşır. Kodlama yardımı için kullanılan üretken YZ araçları ise güvenlik açıkları yaratabilir ve düşük kaliteli, kırılgan yazılımların ortaya çıkmasına neden olabilir.
Bu kullanım durumlarını birbirine bağlayan ortak bir düzenleyici çerçeve koymak çok zordur. Bu nedenle politika yapıcılar, tanımlanması ve ölçülmesi kolay olan teknik özelliklere yoğunlaşmayı ve yalnızca model düzeyinde gözlemlenebilecek konuları, uygulama bağlamını dikkate almadan incelemeyi tercih edebilmektedir. Fakat bu gibi bir yaklaşım, farklı uygulamalardan kaynaklanabilecek birçok zararın karşısında oldukça sığ kalmaktadır.
Değerlendirmelerindeki Zorluklar
YZ sistemlerinin değerlendirilmesi ve denetlenmesi, etkili bir regülasyon için kritik önemdedir. Ancak üretken YZ sistemlerinin görev özgüllüğünden yoksun olması, bu süreci önemli ölçüde zorlaştırır. Öngörüye dayalı YZ sistemleri, belirli girdi alanlarını belirli çıktı alanlarına eşleyen, açıkça tanımlanmış görevler etrafında tasarlanır. Bu sayede karar verme hedefleri net biçimde tanımlanabilir, performans ölçütleri belirlenebilir ve değerlendirmeler görece sınırlı problem alanlarında yapılabilir.
Üretken YZ sistemleri ise belirli görevleri yerine getirmek için değil, verilerdeki yapısal kalıpları öğrenmek üzere eğitilir. Örneğin, dil modelleri önceki kelimeler verildiğinde bir sonraki kelimeyi tahmin etmeye odaklanır. Bu nedenle bu sistemler için tek ve açık bir performans hedefi tanımlamak güçtür. Bunun yerine dilsel anlama, akıl yürütme, önyargı üretimi gibi yeteneklere odaklanan değerlendirmeler yapılır.
Ancak yetenek tabanlı değerlendirmelerin de önemli sınırlılıkları vardır. Bu tür ölçümlerle belirlenen yetenekler ile üretken YZ sistemlerinin gerçek dünya bağlamlarındaki performansları arasındaki ilişki çoğu zaman zayıftır. Kıyaslama çalışmalarında kullanılan görevler, bu modellerin pratikte kullanıldığı görevleri çoğu zaman yeterince temsil etmez. Bu kopukluk, üretken YZ’nin değerlendirilmesini yalnızca teknik bir mesele olmaktan çıkarıp, düzenleyici açıdan da çözülmesi güç bir sorun hâline getirir.
YZ denetimleri ve etki değerlendirmelerine ilişkin geçmiş düzenleyici gereklilikler, geliştiricilerin YZ sistemlerini dağıtımdan önce anlamlı biçimde değerlendirebileceği varsayımına dayanır. Ancak üretken YZ bağlamında, bir modelin olası kullanım durumlarını hesaba katmadan zararı yalnızca model düzeyinde değerlendirmek önemli bir eksikliği beraberinde getirir. Bu yaklaşım, kullanıcı etkileşimlerinin, uygulama tercihlerinin ve organizasyonel süreçlerin modelin gerçek dünyadaki etkilerini nasıl şekillendirdiğini göz ardı eder.
Bu nedenle temel modellere odaklanan ve yalnızca dağıtım öncesi değerlendirmelere dayanan düzenleyici öneriler, zararın fiilen nerede ve nasıl ortaya çıktığını yanlış teşhis edebilir. Sonuçta bu tür çerçeveler, etkisiz kalan ya da yanlış hedeflere yönelen denetim mekanizmalarına yol açma riski taşır.
Yeni Yasal Endişelerin Ortaya Çıkması
Üretken YZ, öngörüye dayalı YZ’nin kapsamadığı yeni hukuki endişe alanlarını ortaya çıkarıyor. Bu bağlamda son dönemde en çok tartışılan konulardan biri telif hakları. Öngörüye dayalı YZ’de de eğitim aşamasında telif haklarıyla korunan eserlerin kullanımı zaman zaman gündeme gelmişti. Ancak üretken YZ ile birlikte bu sorun çok daha görünür ve kritik hâle geldi. Üretken YZ, metin, resim ve video gibi çeşitli çıktılar üretebildiği için hem telif hakkı ihlali endişelerini artırıyor hem de çoğaltma hakkı tartışmalarını yeniden gündeme getiriyor.
Telif haklarının yanı sıra, üretken YZ’nin kasıtlı ya da kasıtsız olarak yanlış bilgi yaymadaki rolü de tartışma konusu. Bu sistemler, inandırıcı görünen yalanlar uydurabilir, icat edilmiş isimler, sahte alıntılar ve var olmayan kaynaklarla içerik üreterek kamuoyunu yanıltabilir. Üretken YZ’nin arama motorları ve sanal asistanlar gibi platformlara giderek daha fazla entegre edilmesi, riskleri artırıyor. Sentetik ses teknolojileri gerçek kişilerin konuşma kalıplarını taklit edebilirken, giderek inandırıcılığı artan derin sahta videolar ve YZ tarafından üretilen görüntüler, izleyicileri yanıltmak için kullanılabiliyor. Tüm bunlar, YZ geliştiricilerinin sistemleri tarafından üretilen içerikten ne zaman ve nasıl sorumlu tutulması gerektiğine dair önemli tartışmaları gündeme getiriyor.
Üretken YZ, “Kimyasal, Biyolojik, Radyolojik ve Nükleer” (KBRN) güvenliği gibi alanlarda da önemli bir endişe kaynağı. Normal koşullarda KBRN silahlarının geliştirilmesi yüksek düzeyde uzmanlık, kısıtlı malzemelere erişim ve alanlar arası koordinasyon gerektirirken, üretken YZ geniş literatürü sentezleyerek ve yeni fikirler önererek bilgi engellerini azaltabilir; bu da kötü niyetli aktörlerin yeteneklerini genişletebilir.
Telif hakları, dezenformasyon ve KBRN gibi sorunların her biri çok farklı hukuki tartışmalar içeriyor. Bu nedenle hepsini tek bir başlık altında ele alan bir düzenleyici çerçeve geliştirmek son derece güç. Bir alanda etkili olan düzenleyici yaklaşımlar, başka bir alanda yetersiz kalabilir veya ters etki yaratabilir. Dolayısıyla üretken YZ, öngörücü YZ için gerekenin ötesinde, daha geniş ve çeşitli bir alan bilgisine ihtiyaç duyuyor. Bu farklı yasal zorlukları tek bir genel YZ politika çerçevesinde birleştirme girişimleri, yalnızca düzenleyici ortamı aşırı basitleştirme riski taşımıyor; aynı zamanda politika kararlarını yönlendirecek en yetkin paydaşları ve uzmanları göz ardı etme tehlikesi de doğuruyor.
Dağıtılmış Değer Zinciri Yapısı
YZ sistemleri; veri sağlayıcılar, hesaplama altyapısı sağlayıcılar, model geliştiriciler, barındırma hizmeti sunanlar, modelleri uyarlayanlar, uygulama geliştiriciler vb aktörlerden oluşan karmaşık ve birbirine bağımlı ağlar üzerinden geliştirilir ve dağıtılır. Bu aktörler, YZ teknolojilerinin üretimine, dağıtımına, kullanımına ve işlevselliğine katkıda bulunarak bir değer zinciri oluşturur. Değer zincirinin bu yapısı, uzmanlaşmaya ve verimli iş bölümüne olanak sağlarken, aynı zamanda kontrolü dağıtır ve sorumluluk hatlarını belirsizleştirir.
Öngörücü YZ sistemlerinde ise veri düzenlemeden özellik seçimine ve model geliştirmeye kadar süreç genellikle sıkı bir şekilde entegre edilmiş bir değer zinciri içinde gerçekleşir. Sistemin amacı ve yapısı, geliştirme aşamasında belirlenir. Bu süreçte, geliştirici ve dağıtıcı arasında çoğu zaman yakın bir işbirliği bulunur. Bu sayede hem geliştiriciler hem de dağıtıcılar, sistemin olası risklerini önceden görebilir veya en azından tahmin edebilirler.
Üretken YZ’de bu ilişki önemli ölçüde karmaşıklaşır. Artık belirli görevleri yerine getiren modeller yerine, genel amaçlı, özelleştirilebilir ve yeniden kullanılabilir modeller vardır. Bir uygulayıcı, kendi kullanım senaryosuna göre modelde ince ayar yapar ve sistemi devreye alır. Bu durum, sorumluluk ve hesap verebilirlik açısından kritik sonuçlar doğurur.
Öncelikle, model geliştiricisinin çalışması ile nihai zarar arasındaki mesafe artar. Öngörüye dayalı sistemlerde geliştirici, nihai kullanımdan haberdardır ve genellikle müşterisiyle birlikte çalışır. Üretken YZ’de ise genel amaçlı teknolojiler geliştirilir; bu sistemlerin çok sayıda ve öngörülemeyen kullanım biçimleri olabilir. Bu nedenle, yasal kullanımları olan genel amaçlı sistemlerin geliştiricilerini sonraki zararlardan sorumlu tutmak haksızlık olabilir. Örneğin, telefon üreticileri, telefonları üzerinden işlenen suçlardan sorumlu tutulamaz; benzer şekilde, bilgisayar üreticileri de dizüstü bilgisayarlarda gerçekleştirilen zararlı faaliyetlerden sorumlu değildir.
İkincisi, üretken YZ değer zincirinde çok daha fazla rol ve uzmanlaşma öne çıkmaktadır. Örneğin model uyarlayıcılar ve entegratörler gibi kritik roller vardır. Model uyarlayıcılar, üretken modellerde belirli görevler veya alanlar için ince ayarlar yaparken, entegratörler bu modelleri uygulamalara veya sistemlere entegre ederek kullanıcıların onlarla nasıl etkileşim kurduğunu ve deneyimlediğini şekillendirir. Sorumlulukların bu şekilde farklı rollere dağıtılması, düzenlemelerin güncel kalmasını zorlaştırıyor. Üretken YZ değer zincirindeki aktörler arasındaki çizgilerin belirsizliği de işleri daha karmaşıklaştırıyor. Örneğin, bir ürün belirli bir amaç için uyarlanıp yeni bir sürüm haline geldikten sonra, bileşenleri ayırmak veya zarardan kimin sorumlu olduğunu belirlemek kolay bir iş değil.
Üçüncüsü, üretken YZ değer zincirindeki ek roller ve zincirin küresel dağılımı, yasal sorumluluk açısından ciddi zorluklar yaratır. Bir ülkede geliştirilen bir model, kolaylıkla farklı yargı bölgelerine taşınabilir; ancak eğitim süreçleri veya uygulamaları, yargı alanına göre farklı yasal sonuçlar doğurabilir. Örneğin, herhangi bir AB sakininin kişisel verileri temel modellerin eğitimi için kullanılmışsa, bu muhtemelen GDPR ihlali anlamına gelir. Peki, bu durumda AB düzenleyicileri, mevcut bir modelde yerel bir amaç için bağımsız olarak ince ayar yapan bir kişiyi nasıl değerlendirmelidir? Bu tür zorluklar, açık kaynaklı veya herkese açık şekilde yayımlanmış modeller söz konusu olduğunda daha da artmaktadır.
Bunlar, modeli geliştirenlerin, modelin sonraki uyarlamaları ve entegrasyonundan kaynaklanan zararlardan hiçbir zaman sorumlu tutulamayacağı anlamına gelmiyor. Öncelikle, geliştiriciler temel sistem bileşenlerine erişimlerini sürdürür ve piyasaya sürdükleri sistemleri kontrol etme yeteneklerini korur. Ayrıca bu modelleri geliştirenlerin sayısı az olduğundan, pazarda muazzam bir güçleri bulunur. Alt kademe aktörler, önceden eğitilmiş modellere, büyük ölçekli verilere ve gelişmiş hesaplama altyapısına erişim için giderek birkaç sağlayıcıya bağımlı hâle geldikçe, üst kademe sağlayıcılar üretken YZ değer zincirinde sistematik olarak kritik bir konuma gelir. Bu kaynaklar, üretken sistemlerin oluşturulması ve ölçeklendirilmesi için temel teşkil eder. Bu yoğunlaşan bağımlılıklar, üst kademe sağlayıcılara, kimin üretken YZ’yi oluşturabileceği, ölçeklendirebileceği ve ticarileştirebileceği konusunda orantısız bir güç sağlar; bu durum, öngörüye dayalı YZ bağlamında çok daha az belirgindir.
Üretken YZ’nin Regülasyonu İçin Öneriler
Wang vd. (2025), üretken YZ’nin düzenlenmesi için üç temel öneri sunuyor. Birincisi, düzenleyicilerin teknik uygulamalardan ziyade, YZ sistemlerinin işlevine ve ortaya çıkan sonuçlara odaklanarak düzenleyici hedefler belirlemesi. İkincisi, YZ sistemlerinin teknik özelliklerinin, düzenleyici denetim düzeyini belirlemek için yalnızca sınırlı koşullar altında kullanılması. Üçüncüsü ise, düzenleyicilerin YZ uygulamalarının tüm risk zincirini incelemesi ve kötüye kullanımı önlemeye yönelik daha etkili yapısal kısıtlamalar geliştirmesi.
Düzenleyici kurumlar, genel olarak, teknik detaylardan ziyade üretken YZ sistemlerinin uygulamalarına ve ortaya çıkan sonuçlara odaklanarak düzenleyici hedeflerini belirlemelidir.
Wang vd. (2025), teknolojiye özgü ve teknolojiden bağımsız düzenleyici yaklaşımlar arasındaki farklara dikkat çekiyor. Teknolojiden bağımsız düzenlemeler, belirli teknik uygulamalara odaklanmak yerine faaliyetleri ve sonuçları yönetiyor. Bu yaklaşım, öncelikle teknolojiye özgü düzenlemelerin teknik gelişmelere ayak uyduramaması sonucu ortaya çıkan yasal boşlukları kapatıyor. Ayrıca, teknolojilerin dar veya geniş bir çerçevede tanımlanması, etkisiz veya zararlı düzenlemelere yol açabilir. Teknolojiden bağımsız düzenleme ise kapsamı, teknolojinin uygulamaları ve sonuçlarına göre belirleyerek düzenleyicilerin, toplumsal etkileri hedef alacak biçimde orantılı denetim sağlamasına olanak tanıyor. Üstelik bu yaklaşım, aktörlerin aynı sonuçları elde eden alternatif teknikler kullanarak denetimden kaçınmasını da önlüyor. Teknolojiye özgü düzenlemeler için iyi tanımlanmış hedefler olsa bile, aktörler kuralları atlatmak amacıyla işlevsel olarak benzer fakat farklı teknikler kullanabilir. Bu durum, yeni mimarilerin ve metodolojilerin hızla geliştiği YZ alanında özellikle önem kazanıyor. Çünkü teknolojiye özgü düzenlemeler, şirketlerin sistemlerini düzenleyici kapsamın dışında kalan biçimlerde tasarlayarak düzenlemeleri atlatabilmesine imkân tanıyor.
Teknik özelliklere göre düzenleyici hedefleri belirlemek, son çare olarak mantıklı olabilir.
Sınırlılıklarına rağmen, teknolojiye özgü düzenlemeler; uygulanabilirlik, siyasi uygunluk ve önleyici müdahale kapasitesi sayesinde YZ denetiminde etkili olabiliyor. Örneğin, hesaplama yönetimi, bir modeli eğitmek için kullanılan hesaplama kaynaklarının miktarı gibi somut eşikler belirleyebilir; bu eşikler, farklı aktörler ve sistemler arasında kolayca doğrulanabilir ve uygulanabilir. Böylece objektif ve ölçülebilir müdahale noktaları oluşturularak, düzenlemenin bir aktöre veya yapıya nasıl uygulanacağı konusunda netlik sağlanır ve yasanın uygulanmasında tutarlılık artar. Teknolojiye özgü düzenleme, potansiyel olarak zararlı sistemler devreye girmeden önce müdahale olanağı tanır. Bu yaklaşım, özellikle felaket riski taşıyan veya geri döndürülemez zararlar yaratabilecek YZ sistemleri için kritik öneme sahiptir; amacı yalnızca yasa dışı kılmak değil, belirli bir eylemi fiilen imkânsız hâle getirmektir.
Düzenleyiciler, zararı önleyen yapısal kısıtlamalara ve bağımlılıklara odaklanmalıdır.
Düzenleyiciler, üretken YZ araçlarının kullanılabildiği, risk zincirlerinin her aşamasındaki temel bağımlılıkları ve kısıtlamaları belirlemelidir. Bunlar, yetkilendirme olmadan belirli eylemleri imkansız kılan kasıtlı olarak tasarlanmış bağımlılıkların yanı sıra, zararlı faaliyetlerin gerçekleştirilmesi için gereken zorluğu, maliyeti veya zamanı artıran teknolojik ve fiziksel ortamın yan ürün kısıtlamalarını da içerebilir. Örneğin biyogüvenlikte, kısıtlama ve bağımlılıklar ile risk zincirinin ilerlemesi engellenir ve biyolojik saldırıların gerçekleştirilmesi zorlaştırılır. Ancak aktörler, risk zincirinin farklı aşamalarındaki engelleri aşmak için YZ‘yi kullanabildiklerinde, yapısal kısıtlamalar düzenleyici etkisini yitirebilir. Üretken YZ, çok adımlı süreçleri birleşik, daha verimli operasyona dönüştürerek risk zincirinin aşamalarını ortadan kaldırabilir. YZ, erişim kontrollerine tabi olan bilinen girdiler yerine, kolayca erişilebilir malzemeler kullanarak biyolojik silah üretiminin yeni yollarını keşfedebilir. YZ iş akışlarını hızlandırarak, süreçleri otomatikleştirerek ve belirli faaliyetleri yavaşlatacak veya engelleyecek zaman ve maliyeti azaltarak biyolojik silahların geliştirilmesini zorlaştıran koşulları hafifletebilir. Bu gibi girişimleri engellemek için yayınlanmış biyoloji makalelerindeki kritik ayrıntılar sansürlenerek hassas metodolojik bilgiye erişim kısıtlanabilir ve bilginin yayılımı sınırlanabilir. Düzenleyici kurumlar mevcut hukuksal yapıda hangi kısıtlamaların en kritik olduğunu belirlemeli ve YZ’nin düzenleyici güçlerini nasıl zayıflatabileceğini değerlendirmelidir.
***
Ulnicane’nin (2025) belirttiği gibi, günümüzde çarpıcı bir paradoksla karşı karşıyayız. Birkaç yıl öncesine kadar YZ başlığı altında tartışılan teknolojilere erişim sadece sınırlı bir kesimin elindeydi ve bu sistemleri kullanmak ciddi bir uzmanlık gerektiriyordu. Ancak üretken YZ ile birlikte yapay zekâ “yeryüzüne inerek” yediden yetmişe herkesin kullandığı bir araç haline geldi.
Bu yaygın kullanıma rağmen, teknolojinin yönetimi halen son derece dar bir çerçevede yürütülüyor. Büyük Teknoloji şirketlerinin üretken YZ geliştirme ve uygulama alanındaki hakimiyeti, mevcut eşitsizlikleri daha da pekiştirme riski taşıyor. Bu nedenle üretken YZ yönetimi; yalnızca bu gelişimi yönlendiren güçlü kuruluşların hedeflerini değil, teknolojiden etkilenen geniş kitlelerin gereksinimlerini de dikkate almalıdır.
Söz konusu paradoksun aşılabilmesi için YZ tartışmalarının doğru terimlerle yürütülmesi ve böylece kamuoyunun konuyu daha berrak bir biçimde kavraması kritik önem taşıyor. Genel bir yapay zekâ kavramı yerine; üretken YZ, öngörücü YZ ya da yapay genel zekâ gibi spesifik tanımlar üzerinden konuşmak; bu teknolojilerin olanaklarının, sınırlarının ve risklerinin daha net anlaşılmasını sağlayacaktır.
Kaynaklar
Judge, B., Nitzberg, M., & Russell, S. (2025). When code isn’t law: rethinking regulation for artificial intelligence. Policy and Society, 44(1), 85-97.
Ulnicane, I. (2025). Governance fix? Power and politics in controversies about governing generative AI. Policy and Society, 44(1), 70-84.
Wang, J., Selbst, A., Barocas, S., & Venkatasubramanian, S. (2025). Distinguishing Predictive and Generative AI in Regulation. arXiv preprint arXiv:2506.17347.
Zhang, L., & Zou, M. (2025). Navigating China’s Regulatory Approach to Generative AI. In The Cambridge handbook of generative AI and the law (pp. 134-150). Cambridge University Press.