The black box in artificial intelligence systems – a ground for the nullity of a decision in administrative law?

Abstrakt: Článok sa zaoberá problematikou efektu black box v systémoch umelej inteligencie a jeho možnými dôsledkami v oblasti správneho práva. Pozornosť je venovaná najmä otázke transparentnosti algoritmických rozhodovacích procesov a ich vzťahu k požiadavke preskúmateľnosti individuálnych správnych aktov. Autor analyzuje riziká spojené s využívaním nevysvetliteľných systémov umelej inteligencie pri výkone verejnej moci a skúma ich vplyv na procesné práva účastníkov správneho konania. Súčasťou analýzy je aj teória nulity v správnom práve a posúdenie možnosti kvalifikovať black box efekt ako novú neodstrániteľnú vadu správneho aktu. Príspevok poukazuje na konflikt medzi technologickou komplexnosťou moderných systémov AI a požiadavkami princípu legality, transparentnosti a právnej istoty.
Zároveň identifikuje argumenty podporujúce aj spochybňujúce koncept tzv. algoritmickej nulity správneho aktu vydaného systémom umelej inteligencie.
Kľúčové slová: black box, transparentná AI, nulitnosť, správne právo, proces, rozhodnutie

Abstract: This article addresses the issue of the “black box” effect in artificial intelligence systems and its potential implications in the field of administrative law. Particular attention is paid to the issue of transparency in algorithmic decision-making processes and their relationship to the requirement of reviewability of individual administrative acts. The author analyzes the risks associated with the use of inexplicable artificial intelligence systems in the exercise of public authority and examines their impact on the procedural rights of parties to administrative proceedings. The analysis also includes the theory of nullity in administrative law and an assessment of the possibility of classifying the black box effect as a new, irremediable defect in an administrative act. The paper highlights the conflict between the technological complexity of modern AI systems and the requirements of the principles of legality, transparency, and legal certainty. At the same time, it identifies arguments both supporting and challenging the concept of so-called algorithmic nullity of an administrative act issued by an artificial intelligence system.
Keywords: black box, transparent AI, nullity, administrative law, proceedings, decision

Úvod

Rozvoj systémov umelej inteligencie predstavuje jeden z najvýznamnejších technologických fenoménov súčasnosti, ktorý zásadným spôsobom ovplyvňuje nielen technické a ekonomické oblasti, ale čoraz intenzívnejšie aj výkon verejnej moci a aplikáciu práva. Implementácia algoritmických systémov do rozhodovacích procesov správnych orgánov prináša viaceré výhody spočívajúce najmä v zefektívnení činnosti verejnej správy, zrýchlení rozhodovacích procesov a schopnosti spracovať veľké množstvo údajov. Súčasne však vznikajú nové právne otázky týkajúce sa transparentnosti, preskúmateľnosti a zodpovednosti za rozhodnutia prijaté alebo podporené systémami umelej inteligencie.

Jedným z najvýznamnejších problémov súčasných systémov umelej inteligencie je tzv. efekt „black box,“ teda stav, pri ktorom nie je možné dostatočne pochopiť vnútorné mechanizmy vedúce k výslednému rozhodnutiu systému. Hoci je používateľ schopný identifikovať vstupné údaje a výsledný výstup, samotný proces spracovania informácií, rozhodovacie pravidlá a vzťahy medzi jednotlivými premennými zostávajú často neprehľadné. Táto vlastnosť komplexných modelov umelej inteligencie, najmä systémov založených na hlbokom učení a neurónových sieťach, predstavuje zásadnú výzvu pre právne prostredie, v ktorom je požiadavka transparentnosti a odôvodnenosti rozhodnutí základným predpokladom ochrany práv jednotlivcov.

V oblasti správneho práva nadobúda problematika black box systémov osobitný význam, keďže individuálne správne akty musia spĺňať zákonom stanovené požiadavky, medzi ktoré patrí najmä riadne odôvodnenie a možnosť následnej súdnej alebo správnej kontroly. Ak správny orgán využívajúci systém umelej inteligencie nie je schopný vysvetliť dôvody prijatého rozhodnutia, vzniká otázka, či takéto rozhodnutie môže byť považované za zákonné, preskúmateľné a zlučiteľné s princípmi právneho štátu.

Cieľom tohto článku je analyzovať vzťah medzi efektom black box v systémoch umelej inteligencie a teóriou nulity v správnom práve, pričom pozornosť je venovaná otázke, či nemožnosť vysvetliť rozhodovací proces algoritmu môže predstavovať novú kategóriu neodstrániteľnej vady správneho aktu. Príspevok sa zameriava na posúdenie argumentov podporujúcich koncept tzv. algoritmickej nulity správneho aktu vydaného systémom umelej inteligencie, ako aj na možné protiargumenty vyplývajúce z princípu proporcionality a subsidiárnej ochrany právnych prostriedkov.

Pojem „black box“

Čierna skrinka v systéme umelej inteligencii je nežiadúcim javom, resp. vlastnosťou systému. Čiernou skrinkou sa označuje systém, ktorého vnútorné rozhodovacie procesy nie sú viditeľné a pochopiteľné.

Efekt black box sa týka najmä neurónových sietí a komplexných systémov hlbokého učenia. Black box je opakom transparentného algoritmu.

Základná podstata problému čiernej skrinky spočíva v tom, že poznáme údaje, ktoré vkladáme do AI (vstup), poznáme predpoveď, ktorú AI generuje (výstup), ale presné matematické uvažovanie – zložitá sieť váh a predsudkov, ktoré AI použila na to, aby dospela k tomuto špecifickému záveru – je pre ľudské chápanie takmer úplne nepriehľadná. ¹

Black box bude vytvárať predikcie a prijímať rozhodnutia podobne ako človek, avšak bez schopnosti vysvetliť dôvody, ktoré k nim viedli. Myšlienkový proces AI môže byť založený na vzorcoch, ktoré ako ľudia nedokážeme vnímať, čo znamená, že porozumenie AI môže byť podobné snahe porozumieť inému vysoko inteligentnému druhu – druhu s úplne odlišnými zmyslami a schopnosťami vnímania. ²Zároveň to znamená, že z úmyslu alebo konania ľudí, ktorí AI vytvorili alebo nasadili, možno vyvodiť len veľmi málo, pretože ani oni sami nemusia byť schopní predvídať, k akým riešeniam AI dospeje alebo aké rozhodnutia prijme. ³

Pojem black box je primárne technický pojem, ktorý vznikol v oblasti informatiky a strojového učenia, ale zohráva významnú úlohu aj v právnej regulácii AI.
Právna úprava oblasti umelej inteligencie sa snaží výskytu efektu black box brániť. Zatiaľ jediný ucelenejší právny predpis na úrovní Európskej únie, tzv. AI akt, ⁴ síce výslovne nepozná pojem black box, avšak zaoberá sa vysoko rizikovými systémami AI, pre ktorých vývoj a existenciu kladie prísne pravidlá a podmienky. Práve týmto spôsobom sa predmetné nariadenie EÚ snaží zabrániť vzniku netransparentných systémov AI.

AI akt člení systémy do štyroch kategórií podľa rizikovosti:

• zakázané systémy,
• vysokorizikové systémy,
• systémy s obmedzeným rizikom,
• ostatné systémy. ⁵

AI akt stanovuje požiadavky na kvalitu a relevantnosť použitých súborov údajov, technickú dokumentáciu a uchovávanie záznamov, transparentnosť a poskytovanie informácií nasadzujúcim subjektom, ľudský dohľad a spoľahlivosť, presnosť a kybernetickú bezpečnosť.

Z preambuly AI aktu je zrejme, že cieľom EÚ je riešiť obavy súvisiace s neprehľadnosťou a zložitosťou určitých systémov AI a pomôcť nasadzujúcim subjektom plniť si povinnosti podľa AI aktu. Tento cieľ je možné zabezpečiť tým, že pred uvedením vysokorizikových systémov AI na trh alebo do prevádzky sa bude vyžadovať transparentnosť týchto systémov.

Vysokorizikové systémy AI by mali byť dizajnované tak, aby umožnili nasadzujúcim subjektom pochopiť, ako systém AI funguje, vyhodnotiť jeho funkčnosť a pochopiť jeho silné stránky a obmedzenia. K vysokorizikovým systémom AI by mali byť priložené vhodné informácie vo forme návodu na použitie.

Transparentný model AI

Transparentné modely umelej inteligencie z technického hľadiska sú jednoduchšie a zvyčajne menej výkonné modely, pri ktorých dokážeme pochopiť nielen spôsob ich fungovania, ale aj dôvody ich rozhodnutí a znalosti, ktoré sa naučili o reálnom svete. ⁶

Za transparentný model AI je považovaná vysvetliteľná umelá inteligencia (explainable Artificial Intelligence – XAI).⁷ Často sa chápe ako súbor procesov a metód používaných na opis modelov hlbokého učenia prostredníctvom charakterizácie ich presnosti, transparentnosti a výsledkov v systémoch AI.⁸

Príklady black box systém AI

• COMPAS⁹
  Predikuje riziko recidívy a používa sa v justičnom systéme USA
  dosahuje pri predikcii recidívy rovnakú presnosť ako veľmi jednoduchý interpretovateľný model strojového učenia založený len na troch pravidlách, využívajúci iba vek a počet predchádzajúcich trestných činov. Ide o model čiernej skrinky, ktorý bol vytvorený len na základe starostlivo zostavených dotazníkov a odborných znalostí bez štandardného algoritmu strojového učenia.
• BREEZOMETER¹⁰
  používala ho spoločnosť Google počas kalifornských požiarov v roku 2018. Tento model predpovedal kvalitu ovzdušia ako „dobrú-ideálnu pre vonkajšie aktivity,“ napriek tomu, že viaceré iné systémy AI hlásili nebezpečne zlú kvalitu ovzdušia a ľudia hlásili, že ich autá boli pokryté popolom.
• SYSTÉMY AI VYUŽÍVANÉ V MEDICÍNE
  Lekár nemôže overiť logiku odpovede. Nedokáže pacientovi zdôvodniť diagnózu a postup liečenia, ktorý stanovil systém AI. Napr. AI sa naučila spájať nádory s prítomnosťou konkrétneho nemocničného pravítka často videného na fotografiách, a nie so samotným nádorom). ¹¹
• AI AGENTI¹²
  Prevažne ide o agentov v oblasti finančných služieb, ktorí konajú prevažne autonómne, nepretržite a obrovskou rýchlosťou. Vo finančných inštitúciách sa AI agenti nasadzujú v kľúčových procesoch ako je on boarding klientov, riadenie rizík alebo detekcia podvodov. Na vykonanie každého z týchto procesov potrebujú rozsiahly prístup k niekoľko desiatok ďalším systémov naraz.

Black box a ako potenciálny dôvod nulitnosti individuálneho správneho aktu (rozhodnutia)

Základné zákonné požiadavky na individuálne rozhodnutie v správnom práve sú obsiahnuté v ust. § 47 zákona č. 71/1967 Zb. Správny poriadok. Predmetné ustanovenie stanovuje základné obligatórne náležitosti správno-právneho rozhodnutia. Týmito náležitosťami sú výrok, odôvodnenie a poučenie o odvolaní. Uvedené požiadavky musia byť splnené kumulatívne, pokiaľ právny predpis nestanovuje výnimku.

Problém nastáva pri nevysvetliteľnom algoritme, ktorý black box systémy AI využívajú. Jeden z problémov pri nevysvetliteľnom algoritme spočíva v tom, že správne orgány nie sú schopné vysvetliť logiku rozhodnutia, čo spôsobuje nedostatočnú ochranu procesných práv účastníka správneho konania.

Ak správny orgán nevie kvalifikovane odôvodniť svoje rozhodnutie, nie je možné preskúmať správnosť postupu správneho orgánu pri vydávaní rozhodnutia. Ak je rozhodnutie správneho orgánu nevysvetliteľné a nepreskúmateľné ide o zásah do práva na spravodlivý proces.

Ďalší problém black box systému AI spôsobuje nemožnosť identifikovať použité premenné či analyzovať priebeh inferencie,¹³ čo spôsobuje zásadnú dôkaznú neistotu pri namietaní nezákonnosti rozhodnutia generovaného systémom AI.¹⁴

Nepriehľadnosť algoritmického spracovania zároveň komplikuje dokazovanie chýb systému, pretože v mnohých prípadoch absentujú technické záznamy alebo prístup k verziám systému AI, ktoré by umožnili presne vyhodnotiť, či došlo k nesprávnemu spracovaniu vstupov, nesprávnej aplikácii právnej normy alebo inému nedostatku spôsobujúcemu nulitu. ¹⁵

Teória nulity v správnom práve vo vzťahu k black box

Teórii nulity v správnom práve sa venujeme dlhodobo. Ide o širokú a zaujímavú tému, ktorej v podmienkach Slovenskej republiky nie je venovaná náležitá pozornosť. V podmienkach Slovenskej republiky nie je nulita pozitívno-právne vymedzená. Je výtvorom judikatúry a správneho práva. Ide o závažný nedostatok, ktorý je nutné odstrániť. Všetky právne štáty s demokratickým zriadením majú nulitu právne upravenú a snažia sa jej vyhýbať.

Nulitu môžeme definovať ako nežiaducu vlastnosť, ktorú či už normatívny alebo individuálny správny akt nadobudne. Nulitu spôsobujú najzávažnejšie vady, ktoré nie sú odstrániteľné. Pokiaľ správny akt trpí takouto neodstrániteľnou vadou hľadí sa naňho ako keby nebol vôbec vznikol. Takýto akt nikoho nezaväzuje a nespôsobuje žiadne právne účinky.

Medzi tieto neodstrániteľné, najzávažnejšie vady, ktoré spôsobujú nulitnosť správneho aktu zaraďujeme: absolútny omyl v osobe adresáta, obsahovú zmätočnosť, nepríslušnosť správneho orgánu, nedostatok právneho základu, nedostatok právomoci, absolútny nedostatok formy, neexistencia skutkového základu, požiadavka plnenia fakticky nemožného, neurčitosť, nezmyselnosť a pod.

Tento výpočet vád spôsobujúcich nulitu nie je taxatívny, v každom štáte existuje iná škála dôvodov nulitnosti. Z uvedeného dôvodu v spojení s faktom, že správne právo je dynamicky sa rozvíjajúce právne odvetvie, v ktorom sa práve formuje nová oblasť práva umelej inteligencie sme názoru, že black box efekt je novodobá neodstrániteľná vada, ktorej dôsledkom je nulitnosť správneho aktu vydaného systémom AI, tzv. algoritmická nulita správneho aktu.

Svoje tvrdenie podkladáme nasledovnými argumentmi: nie je možné identifikovať rozhodovací proces, nie je možné preskúmať zákonnosť, absentuje riadne preskúmateľné odôvodnenie.

Black box porušuje princíp transparentnosti a legality, rovnako tak princíp právnej istoty. Práve princíp právnej istoty a legality sú piliermi, ktoré rátajú z možnosťou výskytu nulitnosti a samé umožňujú prelomenie zásady prezumpcie správnosti, ktoré pre správne akty platí. Sme názoru, že zásada prezumpcie správnosti platí aj pre správne akty vydané systémom AI.

Čo sa týka argumentov proti inštitútu nulity existuje ich niekoľko, ako napr. nie každá procesná chyba zakladá nulitu, eventuálna možnosť dodatočného vysvetlenia, subsidiárne použitie zrušiteľnosti, t. j. black box by bol považovaný len za odstrániteľnú vadu, ktorá by spôsobovala bežnú neplatnosť správneho aktu.

Záver

Nasadzovanie systémov umelej inteligencie do rozhodovacích procesov verejnej správy predstavuje významný posun v spôsobe výkonu verejnej moci, zároveň však prináša nové právne riziká, ktoré tradičné inštitúty správneho práva neboli schopné predvídať.

Efekt black box predstavuje jednu z najvýznamnejších výziev, pretože narúša základnú požiadavku transparentnosti rozhodovacieho procesu a môže znemožniť identifikáciu dôvodov, na základe ktorých systém umelej inteligencie dospel ku konkrétnemu výsledku.

V správnom práve má táto problematika osobitnú závažnosť vzhľadom na povinnosť správnych orgánov svoje rozhodnutia riadne odôvodniť a umožniť ich následnú kontrolu. Ak správny orgán nie je schopný vysvetliť rozhodovací mechanizmus využitého systému umelej inteligencie, môže dôjsť k zásahu do základných princípov právneho štátu, najmä princípu legality, právnej istoty a práva na spravodlivý proces. Nemožnosť preskúmať zákonnosť rozhodnutia vytvára významnú právnu neistotu, ktorá môže mať za následok spochybnenie samotnej existencie právnych účinkov takéhoto rozhodnutia.

Na základe uvedenej analýzy možno konštatovať, že black box efekt predstavuje potenciálne novú kategóriu vady správneho aktu, ktorá si vzhľadom na rozvoj umelej inteligencie vyžaduje osobitnú právnu reflexiu. Koncept tzv. algoritmickej nulity správneho aktu vydaného systémom umelej inteligencie môže predstavovať vhodný nástroj ochrany jednotlivca v prípadoch, keď nie je možné identifikovať rozhodovací proces ani zabezpečiť riadnu preskúmateľnosť rozhodnutia. Zároveň však nemožno automaticky považovať každý prípad využitia nevysvetliteľného algoritmu za dôvod nulity, keďže je potrebné skúmať intenzitu zásahu do právnych princípov a možnosť odstránenia vzniknutých nedostatkov inými právnymi prostriedkami.

Budúci vývoj právnej regulácie umelej inteligencie bude preto nevyhnutne smerovať k hľadaniu rovnováhy medzi efektívnym využívaním technologických možností a zachovaním základných požiadaviek demokratického právneho štátu. Transparentnosť, vysvetliteľnosť a kontrolovateľnosť systémov umelej inteligencie sa stanú nevyhnutnými podmienkami ich legitímneho využívania pri výkone verejnej moci.

Autorka: JUDr. Miroslava Franc Kupcová
Autorka je interná doktorandka na Katedre ústavného práva a správneho práva právnickej fakulty Univerzity Pavla Jozefa Šafárika v Košiciach, Slovenská republika.
ORCID: 0009-0002-8585-9107

Tento príspevok vznikol s podporou a je výstupom riešenia výskumného projektu podporeného Vedeckou grantovou agentúrou VEGA č. 1/0062/25 s názvom Automatizácia rozhodovacích procesov vo verejnej správe

Zoznam použitých zdrojov

BATHAEE, YAVAR. The artificial intelligence black box and the failure of intent and causation. In Harvard Journal of Law & Technology. [on-line]. Spring 2018. Vol. 31, No. 2. Dostupné na internete: https://jolt.law.harvard.edu/assets/articlePDFs/v31/The-Artificial-Inte….

BURRELL, J. How the machine “thinks”: Understanding opacity in machine learning algorithms. In Big Data & Society. [on-line]. 2016. Vol. 3, No. 1. Dostupné na internete, DOI identifikátor: https://doi.org/10.1177/2053951715622512.

DREXLER, R. Temná stránka AI, ktorú takmer nikto nevidí. IngTechbyte. Publikované dňa 26.05.2026. Dostupné na internete: https://www.techbyte.sk/2026/05/temna-stranka-ai-ktoru-takmer-nikto-nev….

INSMITH TEAM. Vysvetliteľná AI (XAI): Riešenie problému „čiernej skrinky“ vo vysokom počítači. In Blog insmittech. Publikované: 02.03.2026. Dostupné na internete: https://insmittech.com/sk/blog/explainable-ai-solving-black-box-problem….
KERI, G. – EARLY, J. A Risk-Based Approach to AI Regulation: System Categorisation and Explainable AI Practices. SCRIPTed: A Journal of Law, Technology and Society. 2023, vol. 20, no. 1, s. 56-88.

Nariadenie Európskeho parlamentu a Rady (EÚ) č. 2024/1689 ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie a ktorým sa menia nariadenia (ES) č. 300/2008, (EÚ) č. 167/2013, (EÚ) č. 168/2013, (EÚ) 2018/858, (EÚ) 2018/1139 a (EÚ) 2019/2144 a smernice 2014/90/EÚ, (EÚ) 2016/797 a (EÚ) 2020/1828 (akt o umelej inteligencii) zo dňa 13.06.2024. Dostupné na internete: https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng.

RUDIN, C. Stop explaining black box machine learning models for highs takes decisions and use interpretable models instead. Nature Machine Intelligence, 2019, 1.5: 206-215. Dostupné na internete: https://pmc.ncbi.nlm.nih.gov/articles/PMC9122117/.

SELBST, Andrew D. – BAROCAS, S. The Intuitive Appeal of Explainable Machines. In Fordham Law Review. [on-line]. 2018. Vol. 87, Issue 3. Dostupné na internete: https://ir.lawnet.fordham.edu/flr/vol87/iss3/4/. DOI identifikátor: https://doi.org/10.2139/ssrn.3126971.

TAMAJKA, M. Transparentné modely vs. modely typu čierna skrinka. Publikované: 21.06.2022. Dostupné na internete: https://kinit.sk/sk/transparentne-modely-vs-modely-typu-cierna-skrinka/.

Yang W. – Wei Y. a kol. Survey on Explainable AI: From Approaches, Limitations and Applications Aspects. In Human – Centric Intelligent Systems. Vol. 3, str. 161-181. Publikované dňa 10.08.2023. Dostupné na internete: https://link.springer.com/article/10.1007/s44230-023-00038-y.

¹INSMITH TEAM. Vysvetliteľná AI (XAI): Riešenie problému „čiernej skrinky“ vo vysokom počítači. In Blog insmittech. Publikované: 02.03.2026. Dostupné na internete: https://insmittech.com/sk/blog/explainable-ai-solving-black-box-problem….
² BATHAEE, YAVAR. The artificial intelligence black box and the failure of intent and causation. In Harvard Journal of Law & Technology. [on-line]. Spring 2018. Vol. 31, No. 2. Dostupné na internete: https://jolt.law.harvard.edu/assets/articlePDFs/v31/The-Artificial-Inte….
³ BATHAEE, YAVAR. The artificial intelligence black box and the failure of intent and causation. In Harvard Journal of Law & Technology. [on-line]. Spring 2018. Vol. 31, No. 2. Dostupné na internete: https://jolt.law.harvard.edu/assets/articlePDFs/v31/The-Artificial-Inte….
⁴ Nariadenie Európskeho parlamentu a Rady (EÚ) č. 2024/1689 ktorým sa stanovujú harmonizované pravidlá v oblasti umelej inteligencie a ktorým sa menia nariadenia (ES) č. 300/2008, (EÚ) č. 167/2013, (EÚ) č. 168/2013, (EÚ) 2018/858, (EÚ) 2018/1139 a (EÚ) 2019/2144 a smernice 2014/90/EÚ, (EÚ) 2016/797 a (EÚ) 2020/1828 (akt o umelej inteligencii) zo dňa 13.06.2024. Dostupné na internete: https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng.
⁵KERI, G. – EARLY, J. A Risk-Based Approach to AI Regulation: System Categorisation and Explainable AI Practices. SCRIPTed: A Journal of Law, Technology and Society. 2023, vol. 20, no. 1, s. 56-88.
⁶ TAMAJKA, M. Transparentné modely vs. modely typu čierna skrinka. Publikované: 21.06.2022. Dostupné na internete: https://kinit.sk/sk/transparentne-modely-vs-modely-typu-cierna-skrinka/.
⁷ Yang W. – Wei Y. a kol. Survey on Explainable AI: From Approaches, Limitations and Applications Aspects. In Human – Centric Intelligent Systems. Vol. 3, str. 161-181. Publikované dňa 10.08.2023. Dostupné na internete: https://link.springer.com/article/10.1007/s44230-023-00038-y.
⁸ Yang W. – Wei Y. a kol. Survey on Explainable AI: From Approaches, Limitations and Applications Aspects. In Human – Centric Intelligent Systems. Vol. 3, str. 161-181. Publikované dňa 10.08.2023. Dostupné na internete: https://link.springer.com/article/10.1007/s44230-023-00038-y.
^{9/sup>RUDIN, C. Stop explaining black box machine learning models for highs takes decisions and use interpretable models instead. Nature Machine Intelligence, 2019, 1.5: 206-215. Dostupné na internete: https://pmc.ncbi.nlm.nih.gov/articles/PMC9122117/.
10RUDIN, C. Stop explaining black box machine learning models for highs takes decisions and use interpretable models instead. Nature Machine Intelligence, 2019, 1.5: 206-215. Dostupné na internete: https://pmc.ncbi.nlm.nih.gov/articles/PMC9122117/.
11INSMITH TEAM. Vysvetliteľná AI (XAI): Riešenie problému „čiernej skrinky“ vo vysokom počítači. In Blog insmittech. Publikované: 02.03.2026. Dostupné na internete: https://insmittech.com/sk/blog/explainable-ai-solving-black-box-problem….
12 DREXLER, R. Temná stránka AI, ktorú takmer nikto nevidí. Ing Techbyte. Publikované dňa 26.05.2026. Dostupné na internete: https://www.techbyte.sk/2026/05/temna-stranka-ai-ktoru-takmer-nikto-nev….
13 Inferencia v kontexte umelej inteligencie je výsledný záver/výstup, ktorý model AI vytvorí na základe vstupných údajov. Tento výstup je odovzdávacím aktom algoritmu, ktorý môže mať rôzne právne následky.
14BURRELL, J. How the machine “thinks”: Understanding opacity in machine learning algorithms. In Big Data & Society. [on-line]. 2016. Vol. 3, No. 1. Dostupné na internete, DOI identifikátor: https://doi.org/10.1177/2053951715622512.
15SELBST, Andrew D. – BAROCAS, S. The Intuitive Appeal of Explainable Machines. In Fordham Law Review. [on-line]. 2018. Vol. 87, Issue 3. Dostupné na internete: https://ir.lawnet.fordham.edu/flr/vol87/iss3/4/. DOI identifikátor: https://doi.org/10.2139/ssrn.3126971.}