Black box v systéme umelej inteligencie - dovod nulitnosti rozhodnutia v správnom práve ?
The black box in artificial intelligence systems – a ground for the nullity of a decision in administrative law?
Abstrakt: Článok sa zaoberá problematikou efektu black box v systémoch umelej inteligencie a jeho možnými dôsledkami v oblasti správneho práva. Pozornosť je venovaná najmä otázke transparentnosti algoritmických rozhodovacích procesov a ich vzťahu k požiadavke preskúmateľnosti individuálnych správnych aktov. Autor analyzuje riziká spojené s využívaním nevysvetliteľných systémov umelej inteligencie pri výkone verejnej moci a skúma ich vplyv na procesné práva účastníkov správneho konania. Súčasťou analýzy je aj teória nulity v správnom práve a posúdenie možnosti kvalifikovať black box efekt ako novú neodstrániteľnú vadu správneho aktu. Príspevok poukazuje na konflikt medzi technologickou komplexnosťou moderných systémov AI a požiadavkami princípu legality, transparentnosti a právnej istoty.
Zároveň identifikuje argumenty podporujúce aj spochybňujúce koncept tzv. algoritmickej nulity správneho aktu vydaného systémom umelej inteligencie.
Kľúčové slová: black box, transparentná AI, nulitnosť, správne právo, proces, rozhodnutie
Abstract: This article addresses the issue of the “black box” effect in artificial intelligence systems and its potential implications in the field of administrative law. Particular attention is paid to the issue of transparency in algorithmic decision-making processes and their relationship to the requirement of reviewability of individual administrative acts. The author analyzes the risks associated with the use of inexplicable artificial intelligence systems in the exercise of public authority and examines their impact on the procedural rights of parties to administrative proceedings. The analysis also includes the theory of nullity in administrative law and an assessment of the possibility of classifying the black box effect as a new, irremediable defect in an administrative act. The paper highlights the conflict between the technological complexity of modern AI systems and the requirements of the principles of legality, transparency, and legal certainty. At the same time, it identifies arguments both supporting and challenging the concept of so-called algorithmic nullity of an administrative act issued by an artificial intelligence system.
Keywords: black box, transparent AI, nullity, administrative law, proceedings, decision
