Biz hukukçular yapay zekânın sorumluluğunu konuşmaktan sıkılmaya başladık. Fakat halen birçok tartışmada başka alanlardaki araştırmacıların fikri haklar, zarardan sorumluluk, kişilik tanınması, cezai sorumluluk, yasaklar vs. konusunda yetersiz bilgisi olduğunu düşünüyorum. Muhtemelen çok daha kısa ve çok daha vurucu şekilde, yapay zekânın hukukla ilgisinin hukuk dili kullanılmadan anlatılmasına ihtiyaç var.

Bu yazıda kendi tavsiyeme uymayı deneyeyim.

Kavramlar ve Gerçekler

Galiba en büyük açık, kullanılan büyük kavramların yanında gerçekte olan şeyler. Kara kutu sorunu, şeffaflık ilkesi vs. Bunların da hukuk akademisi tarafından anlaşılmadan çokça kullanıldığını, düzenlemelerde yer aldığını, ancak uygulama ile kavramların içeriğinden beklenenler arasında çok fark olduğunu düşünüyorum.

Bir kavramı düzenlemeye koymak, o kavramın karşılığının sahada var olduğunu göstermiyor. “Şeffaflık” yazıyoruz; fakat neyin şeffaf olacağını, kime karşı şeffaf olacağını, şeffaflığın hangi teknik işlemle sağlanacağını bilmiyoruz. “Kara kutu” diyoruz; fakat kutunun içinde ne olduğunu değil, olmadığını varsayarak konuşuyoruz. Üstelik bu varsayımı, teknik literatürün kendisi hızla eskitirken yapıyoruz.

Kara Kutu Gerçekten Kara mı?

Şunu hatırlatmakta fayda var: havacılıkta kara kutu, şeffaflığın engeli değil aracıdır. Kaza sonrası hakikate ulaşmamızı sağlayan şeydir. Yapay zekâda ise terimi tam tersi anlamda, “içine bakılamayan” şey için kullanıyoruz. Bu talihsiz tercih, bize bakmanın imkânsız olduğunu düşündürüyor.

Oysa Wes Gurnee öncülüğündeki ekibin geliştirdiği Jacobian lens (kısaca J-lens), modelin ara katmanlarındaki temsillerin çıktı üzerindeki nedensel etkisini ölçüyor ve modelin o anda “söylemeye hazır olduğu” kavramları okunabilir hâle getiriyor. Ortaya çıkan yapıya J-space deniyor.

Somut bir örnek üzerinden gidelim; hukuk dili kullanmadan. Modele “ağ ören hayvanın kaç bacağı vardır?” diye soruyorsunuz. Model cevabı verirken “örümcek” kelimesini hiç telaffuz etmiyor. Fakat J-lens ile bakıldığında, o ara adımda “örümcek” kavramının içeride gerçekten belirdiği görülüyor. Dahası, araştırmacılar o kavrama müdahale ettiklerinde modelin muhakemesi yön değiştiriyor.

Yani modelin söylemediği ama düşündüğü adımı görebiliyoruz. Hatta o adımı değiştirip sonucun değiştiğini test edebiliyoruz. Bir hukukçu için bunun ne demek olduğunu söylememe gerek var mı?

İddiam: Kara Kutu Sorunu Bitiyor

Kanaatimce J-lens ve benzeri yöntemlerle birlikte, hukukun bugüne kadar üzerine yaslandığı “kara kutu” savunması çökmek üzeredir. Bir zararın ardından “modelin neden böyle davrandığını kimse bilemez” demek, giderek daha az inandırıcı olacaktır. Bilinemezlik bir doğa kanunu değil, teknolojinin belli bir anındaki eksikliğiydi; o an geçiyor.

Bunun sorumluluk hukukundaki karşılığı ağırdır. Bilinemezlik varsayımı üzerine kurulmuş her kolaylık — kusursuz sorumluluğa kaçış, ispat yükünün gevşetilmesi, “teknolojik risk” adı altında getirilen muafiyetler — zeminini kaybeder. Zira artık sorulabilir: Bakabilirdiniz. Baktınız mı?

Burada dürüst olmak gerek: makalenin kendisi bu kadar iddialı değil. Araştırmacılar, J-space’in modelin iç etkinliğinin yalnızca küçük bir bölümünü (varyansın kabaca %6-7’si) oluşturduğunu, geri kalan %93’ün bu pencerenin dışında kaldığını açıkça söylüyorlar. Yöntemin tek kelimelik kavramlarla sınırlı olduğunu, erken katmanları kaçırıyor olabileceğini de ekliyorlar. Şeffaflığın çözüldüğünü iddia etmiyorlar; bir pencere açtıklarını söylüyorlar.

Peki bu, iddiamı çürütür mü? Bence hayır. Çünkü hukukun ihtiyaç duyduğu şey, modelin her matris çarpımının dökümü değildir. Nitekim insan failde de sinapslarının tamamını değil, iradesini ararız. Aynı çalışmada J-space üzerinden yapılan müdahaleler modelin ifadesini yaklaşık %88 oranında değiştirirken, dışındakiler %5’te kalıyor. Yani o küçük bölge, tam da modelin “söyleyebildiği ve üzerinde denetim kurabildiği” bölge. Hukuken anlamlı olan dilim de zaten orası.

Niyet, İnanç, Kusur

Hukukta kusurun tespiti, hangi eylemin hangi saikle yapıldığının belirlenmesine dayanır. Bugüne kadar yapay zekâda bu soruyu sormaktan kaçındık; çünkü sorunun muhatabı yoktu, ölçüm aracı yoktu.

Şimdi ise ajanın inançları (dünyaya dair bilgisi), arzuları (hedefleri) ve niyetleri (taahhüt ettiği eylem planı) üzerine kurulu modellerle, bunların içeride nasıl temsil edildiğini gösteren yöntemler yan yana geldi. Bir eylemin kasten mi ihmalen mi gerçekleştiğini tartışabilmek için gereken teknik zemin oluşuyor.

Kanaatimce bu alanda acilen ihtiyaç duyulan şey, ajan mimarisini insanın kusurluluğunu açıklayan psikolojik ve cezai teorilerle karşılaştıran derinlikli çalışmalardır. Bunu yapabilecek olan da, teknik literatürü okuma zahmetine katlanan hukukçulardır.

Peki Ya Okuyan Yanılırsa?

Şimdi asıl mesele. Kutu açıldı diyelim; içeriyi kim okuyacak?

J-lens’in ürettiği şey, doğrudan anlaşılır bir cümle değil; bir vektör yığını, bir kavram sıralaması. Bunun “modelin şu anda şunu düşündüğü” biçiminde anlamlı bir ifadeye dönüşmesi için bir yorumlama katmanı gerekiyor. Ve bu katmanda yaygın olarak yine yapay zekâ kullanılıyor.

İşte tam burada halüsinasyon devreye giriyor. Yapay zekâyı yapay zekâ ile açıklarken, açıklayanın uydurma yapma ihtimalini de sisteme dahil etmiş oluyoruz. Modelin ne düşündüğüne dair kusursuz görünen, ikna edici, akıcı ve yanlış bir rapor üretmek bugünün araçları için hiç de zor değil.

Hukuk açısından bu, tanıdık bir sorundur: bilirkişi sorunu. Mahkemenin önüne gelen teknik rapor, hâkimin denetleyemediği bir uzmanlıkla üretilmişse, delilin güvenilirliği raporu üretenin güvenilirliğine indirgenir. Yapay zekânın iç dünyasına dair raporu yine bir yapay zekâ üretiyorsa, ortada denetlenemeyen bir halka vardır. Kara kutuyu açtık; fakat kapağın üstüne, içeriği bizim yerimize okuyan ve zaman zaman uyduran yeni bir kutu koyduk.

Dolayısıyla bu alanda çalışılması gereken şey yalnızca yöntemin kendisi değil, yöntemin çıktısının nasıl doğrulanacağıdır. Tekrarlanabilirlik, bağımsız teyit, yorumlama katmanının insan denetimine açılması… Bunlar teknik değil, usul meseleleridir. Ve usul, hukukçunun asıl işidir.

Sonuç Yerine

Yapay zekânın teknik arkaplanını anlamak artık bir merak meselesi değil, mesleki bir zorunluluktur. Kara kutu savunmasının arkasına saklanma imkânı kapanıyor. Fakat yerine gelen şey berrak bir şeffaflık değil; okunması, yorumlanması ve doğrulanması gereken yeni bir kayıt türü.

Tüm hukuk akademisine, yapay zekânın teknik arkaplanını anlayabilmemizi mümkün kılan bu araştırmaları okumalarını tavsiye ediyorum. Özellikle J-lens ile niyet-inanç-kusur gibi kavramların ilişkisinin çalışılmasına ihtiyaç var. Tabii burada da kullanılan metottaki halüsinasyonun çözülmesi lazım.

Yoksa kutunun içini gördüğümüzü zannedip, aslında bize anlatılana inanmış oluruz.

Gurnee, W., Sofroniew, N., Lindsey, J. ve diğerleri, Verbalizable Representations Form a Global Workspace in Language Models, Transformer Circuits Thread, 6 Temmuz 2026.