Yapay Zeka Hukuk Sistemleri: Daha Adil mi, Daha Tehlikeli mi?

Bağlam. Legal AI artık teorik bir tartışma değil. Mahkemeler, hukuk büroları, şirket hukuk ekipleri, adli yardım kurumları ve uyum ekipleri; belge özetleme, içtihat arama, sözleşme inceleme, talep sınıflandırma ve karar desteği için LLM tabanlı sistemleri kullanmaya başladı. Bu nedenle asıl soru yapay zekanın hukuk sistemine girip girmeyeceği değil. Zaten girdi. Kritik soru şu: ChatGPT, Gemini AI, Claude AI, Llama AI, Grok AI, Deepseek AI veya benzer LLM mimarileriyle kurulan sistemler adalete erişimi artırırken hukuki meşruiyeti koruyabilir mi?

Altı yapay zeka modeli, AI destekli hukuk sistemlerinin daha adil bir geleceğin altyapısı mı yoksa göz ardı edilemeyecek kadar büyük bir risk mi olduğunu değerlendiriyor.

Legal AI ancak erişim, açıklanabilirlik ve hesap verebilirlik birlikte tasarlandığında değer üretir.

0. Bağlam: altı model, şartlı bir evet

Bu AI Debate bölümünde altı modele şu soru soruldu: AI destekli hukuk sistemlerinin faydaları risklerinden daha ağır basıyor mu? Seride ikinci kez sonuç oybirliği oldu: Evet, faydalar risklerden daha ağır basıyor. Fakat bu cevap doğrudan ve sınırsız bir onay değil. Modellerin neredeyse tamamı cevabı açık şartlara bağladı: regülasyon, algoritmik şeffaflık, insan denetimi, sıkı test, denetlenebilirlik ve otomatik karar yetkisinin sınırlandırılması.

Bu ayrım çok önemli. Legal AI tek bir kullanım alanı değildir. Bir sözleşmede olağandışı maddeleri işaretleyen araç ile ceza, tutukluluk, sosyal yardım, göçmenlik statüsü veya icra gibi konularda öneri üreten sistem aynı risk sınıfında değildir. İkisi de LLM kullanabilir; fakat biri verimlilik asistanıdır, diğeri insanın özgürlüğünü, mal varlığını, haklarını ve yaşam şanslarını etkileyebilir.

Operasyonel soru şudur: Yapay zeka nerede sürtünmeyi azaltır ve nerede meşru olmayan bir karar gücü üstlenir? Dijital dönüşüm deneyiminde cevap genellikle modelin kendisinden değil, modelin etrafındaki işletim sisteminden gelir. Ibrahim Tolgar Sasmaz’ın çalışma pratiği bu nedenle iyi bir çerçeve sunar. Head of Digital olarak yönettiği AI sistemleri sihirli chatbotlar değil; iş akışına bağlanmış, ölçülen ve yönetilen sistemlerdir: OCR, LLM ve image inpainting kullanan TranslAsset AI, fiyat doğrulama ve rakip benchmark sistemleri, GenAI ürün bilgi katmanı, Tasky AI benzeri geri bildirim yönlendirme, Power BI tahminleme ve low-code otomasyon yapıları. Legal AI için çıkarım nettir: Model tek başına çözüm değildir. Güvenli ölçeklenebilirlik, modelin etrafındaki yönetişimden gelir.

1. Problem: adalete erişim çoğu zaman para, zaman ve uzmanlıkla sınırlı

Hukuk sistemleri yavaş, pahalı ve eşitsiz dağılmış durumda. Basit bir sözleşme uyuşmazlığı yıllar sürebilir ve dava masrafı uyuşmazlığın değerini aşabilir. Milyonlarca insan kira, işten çıkarma, tüketici hakları, aile hukuku, borç veya idari süreçlerde profesyonel destek alamadan hareket ediyor; çünkü avukatlık hizmetine bütçesi yetmiyor veya nereden başlayacağını bilmiyor. Kağıt üzerinde hukuk herkese aynı davranır. Pratikte ise sistemi etkili kullanmak bilgi, zaman ve kaynak gerektirir.

AI destekli hukuk sistemleri için en güçlü argüman budur: adalete erişim. Verimlilik ve maliyet düşüşü önemli olsa da ana mesele daha fazla insanın hukuki seçeneklerini anlayabilmesidir. Bir AI Lawyer tarzı asistan kira sözleşmesini özetleyebilir, sorunlu maddeleri işaretleyebilir, mahkeme kararını sade dile çevirebilir, gerekli belgeleri listeleyebilir, süreleri hatırlatabilir ve kullanıcının bir avukata hangi sorularla gitmesi gerektiğini hazırlayabilir.

Bu, yüksek riskli davalarda temsilin yerini almaz. Ceza, göçmenlik, velayet, şiddet, tahliye veya büyük finansal kayıp gibi alanlarda insan uzmanlığı vazgeçilmezdir. Ancak ilk yönlendirme aşaması güçlenirse ciddi bir erişim farkı kapanabilir.

Hukuki temel zeka akıllı telefonu olan herkes için erişilebilir hale gelirse, temsil edilenlerle temsil edilmeyenler arasındaki fark tamamen kapanmasa da anlamlı biçimde daralır.

Yine de erişim tek başına yeterli değildir. Bir sistem ucuz, hızlı ve aynı anda adaletsiz olabilir. Hukuki bağlamda hatalı bir öneri sadece kötü kullanıcı deneyimi değildir. Süre kaçırmaya, yanlış başvuruya, hak kaybına, gereksiz uzlaşmaya, yanlış güvene veya geri döndürülmesi zor sonuçlara neden olabilir. Bu nedenle Legal AI, müşteri hizmetleri chatbotlarından çok daha yüksek bir denetim standardı gerektirir.

2. Framework: Legal AI risk merdiveni

Pratik bir çerçeve, Legal AI kullanım alanlarını üç değişkene göre sınıflandırır: sistem ne kadar karar yetkisi alıyor, çıktı ne kadar geri döndürülebilir ve olası zarar ne kadar ağır? Skor yükseldikçe insan denetimi, şeffaflık ve audit gereksinimi de yükselmelidir.

Sorumlu Legal AI, düşük riskli asistanlığı yüksek etkili hukuki otoriteden ayırır.

Seviye 1: Bilgi bulma ve özetleme. AI belgeleri arar, sınıflandırır veya özetler. Örnek: sözleşmedeki fesih maddelerini bulmak. Kaynak gösteriliyorsa ve çıktı hukuki tavsiye gibi sunulmuyorsa risk düşüktür.

Seviye 2: Rehberli öz-yardım. AI süreçleri açıklar, checklist üretir veya bağlayıcı olmayan taslaklar hazırlar. Örnek: adli yardım görüşmesine hazırlık. Risk orta seviyededir; çünkü kötü yönlendirme usul hatasına yol açabilir.

Seviye 3: Profesyonel karar desteği. AI avukatlara, hakimlere, mahkeme personeline veya uyum ekiplerine destek olur. Örnek: içtihat araştırması, benzer dosya kümeleme, sözleşme risk skoru. Risk daha yüksektir; çünkü profesyoneller otomasyona gereğinden fazla güvenebilir.

Seviye 4: Yüksek etkili öneri. AI tutukluluk, ceza aralığı, yardım uygunluğu, dava sonucu veya icra aksiyonu önerir. Bu yüksek risk alanıdır. Çıktılar açıklanabilir, itiraz edilebilir, farklı gruplara etkisi test edilmiş ve insan onayına bağlı olmalıdır.

Seviye 5: Otomatik hukuki karar. AI bağlayıcı karar verir. Bu en tehlikeli alandır. Demokratik hukuk sistemlerinde otorite hesap verebilir olmalıdır. İnsanlar bir kararın neden verildiğini anlayamıyor, sorgulayamıyor veya temyiz edemiyorsa ortalama doğruluk yüksek olsa bile sistem adil değildir.

Operasyonel formül şöyle kurulabilir: Gerekli Kontrol = Zarar Şiddeti × Otomasyon Yetkisi × Geri Döndürülemezlik × Etkilenen Kişinin Kırılganlığı. Basit bir sözleşme özeti için kaynak, uyarı ve kalite kontrol yeterli olabilir. Ceza veya göçmenlik gibi alanlarda ise dağıtım öncesi doğrulama, bias testi, veri kaynağı izlenebilirliği, insan imzası, itiraz yolu, canlı izleme ve net yasal sınırlar gerekir.

Eşikler önceden tanımlanmalıdır. Özgürlük, barınma, göçmenlik statüsü, çocuk velayeti, sosyal yardım, ceza sorumluluğu veya ciddi finansal kayıp söz konusuysa AI final karar mercii olmamalıdır. Sistem kullandığı kaynağı, varsayımı ve sınırlamayı açıklayamıyorsa yüksek etkili kararlarda kullanılmamalıdır. İzleme sonuçları korunan veya kırılgan gruplarda anlamlı farklı hata oranları gösteriyorsa kullanım durdurulmalı, kök neden çözülmeli ve bağımsız inceleme yapılmalıdır.

3. Gerçek örnek: hukuk ekipleri AI işletim sistemlerinden ne öğrenebilir?

Üretim ortamındaki AI sistemlerinde değer, modele erişimden değil iş akışı tasarımından gelir. SASMAZ çalışma pratiğinde AI; lokalizasyon, fiyatlandırma, ürün bilgisi, satış planlama, retail media, tahminleme ve iç yönlendirme gibi gerçek süreçlere bağlanmıştır. Bu örnekler hukuki sistem değildir; ancak yönetişim mantığı Legal AI için doğrudan öğreticidir.

TranslAsset AI, kreatif varlıkların lokalizasyonu için OCR, LLM ve image reconstruction/inpainting bileşenlerini birleştirir. Doğrulanmış etkiler arasında -5% OPEX, +60% CTR ve +25% CVR bulunur. Buradaki önemli nokta KPI değil, işletim prensibidir: girdi kalitesi kontrol edilir, çıktı insan tarafından gözden geçirilebilir, performans ölçülür ve sistem sınırsız özerklikle çalışmaz.

Fiyat zekası sistemi de benzer bir ders sunar. AI destekli fiyat doğrulama ve rakip benchmark çalışmaları +11% AOV, +12pp Buy Box payı, +14pp katkı marjı, +30% fiyat uyumu ve 50% daha hızlı karar üretirken manuel fiyatlandırma eforunu 40% azaltmıştır. Bu, hukuki kararların fiyat optimizasyonu gibi yönetilmesi gerektiği anlamına gelmez. Anlamı şudur: yüksek etkili AI süreçleri tolerans eşiği, istisna yönetimi, veri kalitesi, eskalasyon ve hesap verebilirlik olmadan ölçeklenmemelidir.

Legal AI’ye uygulandığında bu mantık çok somuttur. Bir sözleşme inceleme asistanı sadece genel risk skoru vermemeli; ilgili maddeyi alıntılamalı, risk kategorisini açıklamalı ve belirsizliği göstermelidir. Bir adli yardım chatbotu tahliye, şiddet, ceza, iltica, çocuk, iflas veya süre gibi sinyalleri algıladığında otomatik olarak insana devretmelidir. Mahkeme destek aracı gerekçe, kaynak, güven seviyesi, karşı argüman ve bilinen sınırlamaları göstermelidir. Amaç AI’nin kendinden emin görünmesi değildir. Amaç belirsizliği zamanında görünür kılmaktır.

4. Data / KPI: sadece hızı değil, adaleti ölçmek

Çoğu AI programı başarıyı hız, maliyet ve verimlilik üzerinden ölçer. Hukuk sisteminde bu yeterli değildir. Legal AI için KPI yapısı dört aileden oluşmalıdır: erişim, kalite, adalet/fairness ve hesap verebilirlik.

Legal AI KPI yönetişimi sadece verimliliği değil, açıklanabilirlik ve itiraz edilebilirliği de ölçmelidir.

Erişim KPI’ları: desteklenen kullanıcı sayısı, yanıt süresi, dil kapsamı, mobil tamamlama oranı, anlaşılabilirlik skoru, insan danışmanlığa başarılı yönlendirme oranı. Sistem daha fazla insanın seçeneklerini anlamasını sağlıyorsa erişim değeri üretir.

Kalite KPI’ları: kaynak doğruluğu, hallucination oranı, hukuki kaynak güncelliği, eskalasyon isabeti, uzman incelemesiyle uyum ve düzeltme oranı. Operasyonel minimum standart şu olabilir: kullanıcıya gösterilen hiçbir hukuki iddia kaynaksız olmamalı; her öneri kaynak, yargı alanı, tarih ve varsayım bilgisiyle bağlantılı olmalıdır.

Fairness KPI’ları: korunan veya kırılgan gruplar arasında hata oranı farkı, dil ve okuryazarlık seviyesine göre kalite farkı, itiraz sonuçlarındaki varyans, farklı kullanıcı segmentlerinde açıklanabilirlik skoru. Sistem standart dili iyi anlayıp göçmen, düşük okuryazarlık, engellilik veya lehçe içeren girişlerde kötü performans gösteriyorsa adalete erişim farkını azaltmak yerine büyütebilir.

Hesap verebilirlik KPI’ları: yüksek etkili çıktıların insan onay oranı, audit log tamlığı, kullanıcı itiraz oranı, başarılı düzeltme oranı, açık şikayet yaşı ve model rollback süresi. Bir organizasyon çıktının neden üretildiğini açıklayamıyorsa o çıktının sorumluluğunu da taşıyamaz.

Pratik yönetişim ritmi şöyle kurulabilir: hacim, gecikme ve eskalasyon hataları için haftalık izleme; uzmanlar tarafından aylık hukuk kalite örneklemesi; üç ayda bir bias ve disparate impact analizi; yüksek riskli kullanım alanları için yıllık bağımsız denetim. Avrupa bağlamında GDPR ilkeleri, veri minimizasyonu, rol bazlı erişim ve EU AI Act risk sınıflandırması da dikkate alınmalıdır. Legal AI, sıradan müşteri destek botu gibi değil, regüle finans veya sağlık iş akışı gibi yönetilmelidir.

5. Actionable Steps: Legal AI’yi meşruiyeti kaybetmeden uygulamak

Birincisi: asistanlık ile otoriteyi ayırın. Sistem ne yapabilir, ne yapamaz, hangi noktada durur ve hangi noktada insana devreder açıkça yazılmalıdır. Sözleşme özeti, intake triage ve hukuki dili sadeleştirme iyi başlangıç alanlarıdır. Bağlayıcı kararlar, ceza önerileri veya hak kazanımı kararları çok daha sıkı denetim ve yasal dayanak gerektirir.

İkincisi: eskalasyon kurallarını lansmandan önce tasarlayın. Ceza, tahliye, aile içi şiddet, iltica, velayet, iflas, tıbbi sorumluluk ve süreler otomatik insan incelemesine gitmelidir. Kullanıcının kendi durumunun riskli olduğunu fark etmesine güvenilmemelidir.

Üçüncüsü: kaynak bağlantılı cevapları zorunlu kılın. Her hukuki cevap kaynak, yargı alanı, tarih, varsayım ve belirsizlik göstermelidir. Model cevabın dayanağını gösteremiyorsa güvenli bir öneri üretmemelidir.

Dördüncüsü: disparate impact testi yapın. Ortalama doğruluk yeterli değildir. Dil seviyesi, yaş, erişilebilirlik ihtiyacı, sosyoekonomik bağlam ve hukuken/etik olarak mümkün olan korunan özellikler bazında performans test edilmelidir. En kırılgan kullanıcılar için daha kötü çalışan bir sistem adalete erişim sistemi değildir.

Beşincisi: insanları sorumlu tutun. AI analiz edebilir, işleyebilir ve önerebilir. Hak, özgürlük veya mal varlığı etkileniyorsa bağlayıcı karar insanlarda kalmalıdır. Human oversight sadece onay butonu değildir; yeterli zaman, uzmanlık ve makine çıktısını reddetme yetkisi gerektirir.

Altıncısı: yönetişimi yaşayan bir backlog gibi yönetin. Legal AI tek seferlik pilot değildir. Incident log, edge-case incelemesi, prompt ve retrieval güncellemeleri, drift izleme, zayıf kullanım alanlarını kapatma ve sınırlamaları açık anlatma gerekir. İyi Legal AI programları kısa vadeli inovasyon denemesi değil, disiplinli ürün operasyonu gibi çalışır.

Altı modelin oybirliği bu nedenle sınırsız bir otomasyon onayı değildir. ChatGPT, Gemini AI, Claude AI, Llama AI, Grok AI ve Deepseek AI aslında şartlı bir evet üzerinde birleşir: Faydalar risklerden ağır basabilir; ancak sistem şeffaf, denetlenebilir, insan gözetimli ve net sınırlarla kurulursa. Sadece parası olanlara iyi çalışan bir hukuk sistemi adalet idealini tam karşılamaz. Fakat karar yetkisini opak modellere devreden bir hukuk sistemi de adil değildir.

Doğru yol ne reddetmek ne de körü körüne benimsemektir. AI erişimi genişlettiği, idari yükü azalttığı ve tutarlılığı artırdığı yerlerde kullanılmalı; hukuki meşruiyetin temeli olan insan sorumluluğu gerektiğinde ise net biçimde sınırlandırılmalıdır.