Otomatik Karar Verme

Otomatik karar verme, kişi hakkında, kişisel verilerinin otomatik sistemlerle analiz edilmesine dayanarak insan müdahalesi olmadan karar verilmesidir. Kredi başvurusunun skorlama sistemiyle reddedilmesi, adayların bir yazılım tarafından elenmesi, sigorta priminin algoritmayla belirlenmesi ve şüpheli işlem nedeniyle hesabın otomatik olarak kapatılması tipik örneklerdir. Otomatik kararlar çoğu zaman profillemeye dayanır.

KVKK’da İtiraz Hakkı

KVKK’nın 11. maddesi ilgili kişiye, işlenen verilerin münhasıran otomatik sistemler vasıtasıyla analiz edilmesi suretiyle kişinin kendisi aleyhine bir sonucun ortaya çıkmasına itiraz etme hakkı tanır. Bu hak, ilgili kişi hakları arasında yer alır ve diğer başvurular gibi veri sorumlusuna yöneltilir; veri sorumlusu başvuruyu otuz gün içinde sonuçlandırmalıdır.

GDPR’daki Yasak

GDPR’ın 22. maddesi daha katıdır: kişi hakkında hukuki sonuç doğuran veya onu benzer şekilde önemli ölçüde etkileyen kararların yalnızca otomatik işlemeye dayanmasını kural olarak yasaklar. Bu tür kararlar ancak sözleşmenin kurulması veya ifası için gerekli olması, hukuken izin verilmesi ya da kişinin açık rızası hâlinde verilebilir. Bu durumda da kişiye insan müdahalesi talep etme, görüşünü bildirme ve karara itiraz etme hakları tanınmalıdır.

Uygulamada Dikkat Edilecekler

• Kişiyi önemli ölçüde etkileyen kararlarda (kredi, işe alım, fiyatlandırma, hesap kapatma) gerçek bir insan incelemesi imkânı sağlanmalıdır.
• Kararın hangi verilere ve hangi mantığa dayandığı aydınlatma metninde anlaşılır biçimde açıklanmalıdır.
• Algoritmaların ayrımcı sonuçlar doğurup doğurmadığı düzenli olarak test edilmelidir.
• Yapay zekâ tabanlı karar sistemleri AB’de ayrıca AB Yapay Zekâ Tüzüğü kapsamında yüksek riskli sayılabilir.