Przyczynowa sprawiedliwość

Czasem to, co wydaje się nierównością, jest skutkiem losu, historii, systemu lub uprzedzeń zakodowanych w danych. A czasem wyłącznie iluzją, choć niby popartą danymi

Coraz więcej decyzji w naszym świecie podejmują algorytmy. To one oceniają, czy dostaniemy kredyt, czy i jakie reklamy zobaczymy. A nawet rozstrzygają drobne sprawy sądowe – w Chinach działa już system, który w określonych przypadkach odgrywa rolę „automatycznego sędziego”. Skuteczność? Aż 98 proc. spraw rozstrzyganych bez odwołań. Kusząca wizja, prawda? Maszyna, która nie ma złego dnia, nie kieruje się sympatią ani uprzedzeniami. Ale czy na pewno? Bo wraz z rosnącą automatyzacją pojawia się pytanie stare jak świat: czy decyzje podejmowane na podstawie danych – a właściwie przez ludzi, którzy te informacje interpretują i tworzą modele – mogą być naprawdę sprawiedliwe?