Umelá inteligencia sa z experimentálnej technológie rýchlo presunula do každodenného fungovania firiem. AI dnes pomáha programátorom, spracúva dokumenty, komunikuje so zákazníkmi, analyzuje dáta a automatizuje podnikové procesy.
S jej rastúcim využívaním však prichádza zásadná otázka:
Vieme, kde všade sa v našej organizácii AI používa, na aké rozhodnutia má vplyv a kto za jej používanie zodpovedá?
Práve na túto tému reaguje európsky AI Act. A v roku 2026 už nejde o legislatívu vzdialenej budúcnosti – väčšina jeho pravidiel sa začala uplatňovať od augusta 2026.
AI Act sa netýka len firiem, ktoré AI vyvíjajú
Častým omylom je predstava, že AI Act riešia najmä technologické firmy vyvíjajúce vlastné modely. V skutočnosti sa môže týkať aj organizácií, ktoré si AI riešenie iba kúpia alebo ho používajú ako súčasť svojich procesov.
Pre firmu teda nie je dôležitá len otázka:
„Vyvíjame AI?“
Oveľa dôležitejšia je otázka:
„Kde AI používame a čo jej výstupy ovplyvňujú?“
AI, ktorá sumarizuje dokument, predstavuje inú úroveň rizika ako systém, ktorý hodnotí uchádzačov o zamestnanie, rozhoduje o prístupe k službe alebo ovplyvňuje kritickú infraštruktúru.
Čím väčšie riziko, tým prísnejšie pravidlá
AI Act používa prístup založený na riziku.
Niektoré spôsoby použitia AI sú zakázané. Pri ďalších platia najmä požiadavky na transparentnosť. A pri tzv. high-risk AI systémoch sú povinnosti podstatne rozsiahlejšie.
Medzi rizikové oblasti patria napríklad:
- biometria,
- kritická infraštruktúra,
- vzdelávanie,
- nábor a riadenie zamestnancov,
- prístup k vybraným základným službám.
Pri takýchto systémoch už nestačí vedieť, že „algoritmus funguje“. Organizácia musí vedieť riadiť riziká, kvalitu dát, dokumentáciu, monitoring, kybernetickú bezpečnosť aj dohľad človeka nad rozhodovaním.
Najväčší problém môže byť Shadow AI
Väčšina firiem má pomerne dobrý prehľad o svojich informačných systémoch. Pri AI to však často neplatí.
Koľko zamestnancov používa ChatGPT, Copilot, Gemini či ďalšie AI nástroje? Aké údaje do nich vkladajú? A používajú sa ich výstupy pri dôležitých rozhodnutiach?
Vzniká tak Shadow AI – používanie AI mimo kontrolovaných procesov organizácie.
A to môže byť problém nielen z pohľadu AI Actu, ale aj ochrany dát, kybernetickej bezpečnosti a ochrany know-how.
AI governance začína inventúrou
Prvým krokom preto nemusí byť rozsiahla smernica.
Oveľa užitočnejšie je zistiť:
Aké AI systémy dnes vlastne používame?
Organizácia by mala mať prehľad minimálne o tom, na aký účel AI používa, kto ju používa, aké dáta do nej vstupujú, aké procesy ovplyvňuje a do akej rizikovej kategórie konkrétny use-case patrí.
Až potom je možné nastaviť primerané pravidlá, bezpečnostné opatrenia a zodpovednosti.
AI Act nie je iba právna téma
Pripravenosť na AI Act leží na priesečníku viacerých oblastí:
- právo,
- governance,
- IT,
- dáta,
- kybernetická bezpečnosť
- a vzdelávanie ľudí.
Dôležitá je aj AI gramotnosť zamestnancov. Ľudia by mali vedieť, kedy môžu AI používať, aké informácie do nej nesmú zadávať, ako overovať jej výstupy a kedy musí výsledok skontrolovať človek.
Najslabším článkom AI governance totiž nemusí byť samotný algoritmus. Môže ním byť používateľ, ktorý bez rozmýšľania vloží citlivý dokument do verejného AI nástroja.
Čakať sa neoplatí
Implementácia AI Actu je postupná, pričom ďalšie povinnosti pre high-risk systémy budú nabiehať aj v rokoch 2027 a 2028.
To však neznamená, že firmy majú ešte veľa času.
Inventarizácia AI systémov, ich klasifikácia, úprava procesov, nastavenie zmlúv s dodávateľmi či vybudovanie AI governance môže trvať mesiace.
Praktickým prvým krokom preto môže byť AI Act readiness assessment.
Jeho cieľom by nemal byť ďalší dokument do zásuvky, ale odpoveď na tri jednoduché otázky:
Kde AI používame? Aké riziká z toho vyplývajú? Čo musíme zmeniť?
V InterWay vnímame AI Act nielen ako legislatívnu požiadavku, ale ako príležitosť nastaviť používanie umelej inteligencie bezpečne, kontrolovane a dlhodobo udržateľne.
Pretože otázka už neznie, či budú firmy AI používať.
Otázka znie, či ju budú vedieť používať bezpečne a dôveryhodne.
