Is transparency a virtue? The tension between explainability and accuracy

TRAçıklanabilirlik talebi, tartışmasız bir iyi olarak sunulur. Bir modelin kararını gerekçelendirebilmesi istenir; bu istek makul görünür ve nadiren sorgulanır. Bu yazı, talebin bedelini soruyor.

ENThe demand for explainability is presented as an uncontested good. A model is asked to justify its decision; the request appears reasonable and is rarely questioned. This piece asks what the demand costs.

TRBedel şudur: daha açıklanabilir bir model çoğu zaman daha az isabetli bir modeldir. Bu, teknik bir ayrıntı değil, dağıtımsal bir tercihtir. İsabetsizliğin maliyeti bir yerde birikir ve o yer genellikle kararın öznesi olan kişidir. Açıklanabilirliği artıran her adım, birinin hatalı sınıflandırılma ihtimalini artırıyor olabilir.

ENThe cost is this: a more explainable model is frequently a less accurate one. That is not a technical detail but a distributive choice. The cost of inaccuracy accumulates somewhere, and that somewhere is usually the person the decision is about. Every step that increases explainability may be increasing the chance that someone is classified wrongly.

TRBuradan çıkan sonuç, açıklanabilirlikten vazgeçmek değildir. Sonuç şudur: şeffaflık kendinde bir erdem değil, belirli bir hesap verebilirlik amacına bağlı araçsal bir değerdir. Amaç adlandırılmadan, ne kadar açıklanabilirliğin yeterli olduğu sorusu cevaplanamaz — ve cevaplanmadığında, taleple birlikte gelen maliyet kimin üstünde kaldığı sorulmadan dağıtılır.

ENWhat follows is not that explainability should be abandoned. What follows is that transparency is not a virtue in itself but an instrumental value, tied to a particular accountability purpose. Until the purpose is named, the question of how much explainability suffices cannot be answered — and while it goes unanswered, the cost that comes with the demand is distributed without anyone asking who carries it.