🧠 Yapay Zekâ Yanıltırsa Suçlu Kimdir? – Kodun Ötesinde Bir Sorumluluk Arayışı

🔎 Giriş: Hata Kabul Edilebilir Ama Cevapsız Kalabilir Mi?

Hayat kurtaran bir teknolojinin bir gün hayat tehdit eden bir araca dönüşmesi… Bilim kurgu değil, gerçek. Yapay zekâ artık tıbbi teşhis koyuyor, kredi notu belirliyor, iş başvurularını eliyor, hatta mahkemelerde suç ihtimalini değerlendiriyor. Peki, bu sistem hata yaparsa ne olur?

Daha da önemlisi: Bu hatanın sorumlusu kimdir?
Bir algoritma kendi başına suçlanabilir mi? Yoksa bu, sistemin arkasındaki insan eliyle mi ilgilidir?

Bu sorular sadece teknik değil, aynı zamanda etik, hukuki ve felsefi boyutlar içeriyor.

⚙️ 1. Yapay Zekâ Sistemi Nasıl Karar Veriyor?

Bir yapay zekâ modeli, genellikle üç temel bileşenden oluşur:

• Veri: Geçmişteki örneklerden oluşur (hasta kayıtları, görüntüler, finansal bilgiler vb.)
• Model: Matematiksel fonksiyonlar, karar ağaçları, sinir ağları vs.
• İyileştirme Süreci: Modelin doğruluğunu artırmak için yapılan sürekli eğitim ve validasyon süreçleri.

Yapay zekâ kendi başına “bir bilinçle karar vermez”. Onun “karar verme” süreci, geçmiş verilerden çıkarılan matematiksel örüntüleri tekrar uygulamaktır. Ancak sorun şurada başlar:

🔴 Eğer veriler hatalıysa, model de hatalı olur.
🔴 Eğer veriler önyargılıysa, model de ayrımcılık yapar.
🔴 Eğer sistem denetlenmiyorsa, hata fark edilmez.

🧬 2. Gerçek Olay: Yanlış Teşhis Koyan Yapay Zekâ

Birleşik Krallık’ta bir devlet hastanesi, göğüs röntgenlerinden meme kanseri tespiti için bir yapay zekâ algoritması kullanmaya başladı. Yapay zekâ sisteminin hassasiyeti yüksekti. Ancak bazı düşük yoğunluklu tümörleri atladı. Sonuç: Geç tanı konulan vakalar.

Bu durumda sistem hatalıydı. Peki sorumluluk kimdeydi?

• Yazılımı geliştiren şirket mi?
• Sistemi test etmeden entegre eden hastane mi?
• Sonuçları sorgusuz kabul eden doktor mu?
• Yoksa “karar vermeyen” ama yönlendiren yapay zekâ mı?

Görüldüğü gibi burada klasik bir "fail" tanımlaması yapmak mümkün değil. İşte bu nedenle yeni bir kavrama ihtiyaç duyuluyor: Kolektif Sorumluluk.

⚖️ 3. Kolektif Sorumluluk ve Gri Alanlar

Yapay zekâ ile karar verme süreci bir zincir gibidir. Her halkada bir insan vardır:

Bu zincirin her halkasında yapılabilecek bir hata tüm sistemi çökertebilir. Ancak dikkat: Hiç kimse doğrudan hata yapmasa bile, sistemin geneli hata üretebilir. Çünkü:

• Veri geçmişi ayrımcı olabilir.
• Testler gerçek hayattaki çeşitliliği yansıtmayabilir.
• Yapay zekâ sonuçları mutlak doğru sanılabilir.

🛑 4. “Yapay Zekâ Öneri Verir, Karar Vermez” Yanılsaması

Birçok kurum, yapay zekâyı "karar destek sistemi" olarak sunar. Ancak pratikte bu destek genellikle kararın kendisine dönüşür. Örneğin:

• Doktor, "sistem temiz dedi" diye ikinci kontrol yapmayabilir.
• Banka, "risk yüksek" raporu gelen başvuruyu sorgusuz reddedebilir.
• Bir savcı, suç tahminleme sistemindeki risk puanına göre daha sert cezalandırma talep edebilir.

Yani, insan karar veriyor gibi görünse de, yapay zekânın etkisi bir tür “otomatik yönlendirme”ye dönüşüyor.

🧩 5. Hukuki Belirsizlik: Yasalarda Yapay Zekâ Hâlâ “Hiç Kimse”

Bugün birçok ülkede, yapay zekânın verdiği hatalı kararlardan doğan zararlar için özel yasal düzenleme bulunmuyor. Sorumluluk şu anda genellikle aşağıdaki gibi dağıtılıyor:

• Üretici sorumluluğu (Product liability): Cihaz veya yazılım hatalıysa.
• Kullanıcı ihmali: İnsan operatör gerekli kontrolleri yapmadıysa.
• Kurumsal ihmal: Kurum sistemi yeterince denetlemeden kullandıysa.

Ancak bu yaklaşımlar, sistemin öğrenme süreciyle kendini değiştirmesi gibi özellikleri dikkate almıyor. Yani yapay zekânın zamanla “farklı kararlar üretmesi”, hukukta belirsizlik yaratıyor.

🌍 6. Ne Yapmalı? – Bir Yol Haritası

Yapay zekâ sistemlerinin güvenli, etik ve sorumlu kullanılabilmesi için önerilen bazı ilkeler şunlardır:

1. Şeffaflık: Modelin nasıl çalıştığı anlaşılır olmalı (özellikle açıklanabilir AI).
2. Denetlenebilirlik: İnsan, sistemi izleyebilmeli ve gerekirse müdahale edebilmeli.
3. Veri Etik Kurulları: Kullanılan veri setleri etik denetimden geçmeli.
4. Hukuki Tanımlar: AI sistemlerinin sorumluluğu yasalarla netleştirilmeli.
5. Kritik Alanlarda İnsan Son Karar Yetkisini Korumalıdır. Sağlık, hukuk, eğitim gibi alanlarda AI sadece öneri sunmalı.

🧠 Sonuç: Teknoloji İnsanın Yerine Geçmemeli, Yanında Durmalı

Yapay zekâ, insanlığın en güçlü araçlarından biri olabilir. Ama bu araç yanlış elde, gölgeye dönüşebilir. Sorun teknolojide değil; sorgulamayan, hazırlıksız, etik çerçeveden yoksun sistemlerde.

Eğer bir yapay zekâ yanılırsa, sorumluluk sadece onun arkasındaki kodda değil, o koda körü körüne güvenen insanlarda yatar.