Využití algoritmů při profilování v trestním řízení a důsledky pro lidská práva

0498409 - ÚSP 2019 RIV CZ cze J - Journal Article
Fialová, Eva
Využití algoritmů při profilování v trestním řízení a důsledky pro lidská práva.
[The Use of Algorithms for Profiling in Criminal Proceedings and Implications for Human Rights.]
Časopis pro právní vědu a praxi. Roč. 26, č. 2 (2018), s. 229-258. ISSN 1210-9126
R&D Projects: GA ČR(CZ) GA16-26910S
Institutional support: RVO:68378122
Keywords : algorithms * biometric data * criminal proceedings * discrimination * profiling * fair trial
OECD category: Law

Algoritmy nahrazují činnosti, které dříve vykonávali lidé. Jednou z těchto činností je soudní rozhodování založené na algoritmech. Obecně se předpokládá, že algoritmické rozhodování, na rozdíl od toho lidského, postrádá předsudky a předpojatosti. Tento předpoklad je problematický ve dvou momentech. Za prvé, algoritmus rozhoduje podle předem stanovených kritérií a hodnot. Tyto hodnoty určují lidé, kteří mohou mezi předem stanovená kritéria zahrnout ta, která odpovídají jejich předsudkům. Za druhé, některé algoritmy mohou mít schopnost učit se, což znamená, že vygenerované výsledky jsou přizpůsobeny předchozím výsledkům, které byly v minulosti upřednostněny. Uživatelé mohou mít možnost zvolit výsledky, které odpovídají jejich názoru, které však mohou být založeny na předsudcích. Ve Spojených státech a také v některých evropských zemích již soudy používají algoritmus k posouzení, zda je pravděpodobné, že obviněný (resp. odsouzený) spáchá v budoucnosti jiný trestný čin. Soudce nerozhoduje na základě okolností případu a individuálních charakteristik obviněného. Soudce rozhoduje místo toho na podkladě profilu. Profily pachatelů jsou sestaveny na základě osobních údajů pachatelů, přičemž některé z těchto údajů mohou mít povahu biometrického údaje. Algoritmické rozhodování založené na profilování vyvolává obavy ze zásahu do práv obviněného v soudním řízení, konkrétně zákazu diskriminace a právu na spravedlivý proces.

Algorithms are replacing activities that have previously been performed by humans. One of these activities is judicial decision making based on algorithms. It is generally assumed that algorithmic decision making, as opposed to the human decision making, is free from prejudice and bias. This assumption is problematic in two ways. Firstly, the algorithm decides according to pre-specified criteria and values. These values are chosen by humans who may include among the predefined criteria the criteria that correspond to their prejudices and preconceptions. Secondly, some algorithms may have their own learning ability, which means that the generated results are adapted to the previous ones to which were given preference in the past. The users may have the possibility to choose precedents that correspond with their point of view, which may be based on prejudice. In the United States and also in some European countries an algorithm is already being used by courts to assess whether or not it is likely that the accused (or condemned) will commit another crime in the future. The judge does not decide based on the circumstances of the case and individual characteristics of the accused. The judge decides instead on the basis of a profile. The profiles are based on personal data of the offender. Some of those data have a character of biometric data. The algorithmic decision making based on profiling raises concerns about the rights of the accused in the judicial proceedings, namely the prohibition of discrimination and the right to a fair trial.
Permanent Link: http://hdl.handle.net/11104/0290781