The limit of explainability
Law demands reasons. A model can produce a reason. Whether these are the same thing is not settled.
Bir mahkeme kararının gerekçesi, kararın nedenidir. Bir modelin ürettiği açıklama ise çoğu zaman kararın nedeni değil, karara sonradan uydurulmuş bir anlatıdır. İkisi de "gerekçe" adını taşır ve hukukî sonuçları farklıdır.
The reasoning of a court judgment is the cause of the judgment. An explanation produced by a model is often not the cause of its output but a narrative fitted to it afterwards. Both are called "reasons," and their legal consequences differ.
EU AI Act m. 86 etkilenen kişiye bireysel karar hakkında açıklama hakkı tanır. Bu hakkın ne kadarının teknik olarak karşılanabilir olduğu, ne kadarının ise yalnızca karşılanmış görünebileceği bu hattın konusudur. Doğruluk ile açıklanabilirlik arasındaki değiş tokuş, etik bir tercih olduğu kadar bir ispat hukuku sorunudur.
Article 86 of the EU AI Act grants an affected person the right to an explanation of an individual decision. How much of that right can be technically satisfied, and how much can only be made to appear satisfied, is the subject of this line. The trade-off between accuracy and explainability is a question of evidence law as much as an ethical choice.
Linked questions
Instruments in scope
- Regulation (EU) 2024/1689 Art. 86EU AI Act
- Regulation (EU) 2016/679 Art. 22GDPR
- European Convention on Human Rights Art. 6AİHS