Některé aspekty regulace umělé inteligence

0580612 - ÚSP 2024 RIV CZ cze J - Článek v odborném periodiku
Fialová, Eva
Některé aspekty regulace umělé inteligence.
[Certain aspects of AI regulation.]
Právní rozhledy. Roč. 31, č. 17 (2023), s. 579-586. ISSN 1210-6410
Grant CEP: GA TA ČR(CZ) TL05000550
Institucionální podpora: RVO:68378122
Klíčová slova: Artificial Intelligence Act * legal definitions * human rights * high-risk AI systems * artificial intelligence
Obor OECD: Law
Způsob publikování: Pouze metadata

Již od roku 2021 se na poli Evropské unie diskutuje o podobě právní úpravy umělé inteligence. V roce 2023 existují již tři návrhy nařízení, kterým se stanoví harmonizovaná pravidla pro umělou inteligenci (akt o umělé inteligenci), tzv. AI Act. Akt má ambici řešit umělou inteligence víceméně komplexně a jistě se promítne do dalších předpisů. Článek se zaměřuje na dva okruhy problémů regulace umělé inteligence obsažené v Aktu. Je jím definice umělé inteligence, která je v různých podobách součástí návrhu tohoto nařízení. Definice, která je obsažena ve třetí verzi návrhu nařízení, je příliš široká, neboť může teoreticky zahrnovat i „hloupá“ zařízení. Druhým problematickým aspektem je ochrana základních práv. Přestože je ochrana těchto práv jedním z cílů Aktu, není reálné, aby bylo riziko zásahu omezeno nebo eliminováno ex ante pro celý katalog základních práv. Systémy umělé inteligence budou vyvíjeny a předběžně trénovány jinými subjekty, než které je budou dolaďovat ke konkrétnímu účelu. Řada systémů bude patřit mezi také tzv. general-purpose AI, které budou zaváděny pro mnoho různých účelů využití. Povinnosti ve vztahu k základním právům stanovené v Aktu budou moci splnit pouze velcí poskytovatelé systémů umělé inteligence, neboť jejich plnění bude značně finančně nákladné. Navíc nezaručí, že formální splnění těchto povinností ochrání základní práva před zásahy ze strany umělé inteligence. Základní práva by mohla být chráněna pouze již existujícími předpisy, které jsou závazné pro všechny subjekty všech systémů bez ohledu na míru jejich rizika podle Aktu, která je nyní hlavním kritériem pro určení rozsahu povinností poskytovatelů a provozovatelů.

Since 2021, the European Union has been discussing the shape of AI legislation. In 2023, there are already three proposals for a regulation establishing harmonised rules for artificial intelligence (the AI Act). The Act has the ambition to address AI in a more or less comprehensive manner and will certainly be reflected in further regulations. This article focuses on two areas of concern for AI regulation contained in the Act. This is the definition of AI, which is included in various forms in the draft regulation. The definition contained in the third version of the draft regulation is too broad, as it could theoretically include 'dumb' devices. The second problematic aspect is the protection of fundamental rights. Although the protection of these rights is one of the objectives of the Act, it is not realistic to limit or eliminate the risk of interference ex ante for the entire catalogue of fundamental rights. AI systems will be developed and pre-trained by entities other than those who will fine-tune them for a specific purpose. Many of the systems will also be so-called general-purpose AI, which will be deployed for many different uses. Only large providers of AI systems will be able to meet the fundamental rights obligations set out in the Act, as they will be very costly to meet. Moreover, they will not guarantee that formal compliance with these obligations will protect fundamental rights from interference by AI. Fundamental rights could only be protected by already existing rules that are binding on all actors in all systems, regardless of their level of risk under the Act, which is now the main criterion for determining the scope of the obligations of providers and operators.
Trvalý link: https://hdl.handle.net/11104/0349381