Umelá inteligencia mení technológie a spracovanie dát v digitálnom svete raketovým tempom. Automatizácia procesov, analýza obrovského množstva dát či pokročilé služby zákazníkom - tu všade sa môžeme stretnúť s AI, a tým pádom aj s rizikami spojenými s jej využívaním. Ide napríklad o deepfakes, ochranu osobných údajov a nášho súkromia alebo diskrimináciu.
Riziká diskriminácie pri AI algoritmoch
Systémy umelej inteligencie sú len tak dobré, ako dáta, na ktorých sú trénované. Ak sú pri tomto procese využívané dáta, ktoré v sebe nesú určitú mieru zaujatosti alebo diskriminácie (napríklad pri prijímaní potenciálnych zamestnancov alebo pri výkone práva či poskytovaní pôžičky bankou), tieto negatívne vlastnosti môže AI ešte posilniť. Jej rozhodnutia môžu následne mať negatívny vplyv na jednotlivcov, ktorí nemajú takmer žiadnu možnosť, ako sa proti takýmto rozhodnutiam brániť.
Kto nesie zodpovednosť za AI?
Ak AI model spôsobí škodu, kto za spôsobenú situáciu nesie zodpovednosť? Vývojár? Spoločnosť, ktorá umelú inteligenciu používa? Štát? Momentálne je zodpovednosť nejasná a nedostatok regulácií znamená, že AI často funguje bez dostatočného dohľadu. Etický vývoj AI a jasné pravidlá pre určenie zodpovednosti sú za účelom minimalizácie rizík nevyhnutné, a aj preto bolo v úradnom vestníku EÚ 14. júna 2024 vydané nariadenie 2024/1689 o harmonizácii pravidiel pre umelú inteligenciu, tzv. Akt o umelej inteligencii (AI Act).
Vzostup deepfake technológie a jej dôsledky
Deepfake technológia dokáže vytvárať extrémne realistické falošné videá či obrázky, ktoré sú od reality takmer nerozoznateľné. To predstavuje vážne riziko pre šírenie dezinformácií, politickú manipuláciu či poškodenie osobnej reputácie. čím viac sa deepfaky zdokonaľujú, tým je dôvera v digitálny obsah slabšia, čo predstavuje veľkú výzvu pre spoločnosť a hrá do karát populistickým politikom.
AI a kybernetická bezpečnosť: Pomocník alebo hrozba?
Umelá inteligencia v oblasti kybernetickej bezpečnosti, ochrany dát a súkromia nepochybne prináša aj množstvo pozitív. Dokáže detegovať hrozby, zastaviť kybernetické útoky a automatizovať bezpečnostné opatrenia. Zároveň ju však kyberzločinci využívajú na sofistikovanejšie útoky, vrátane AI-riadeného malvéru a automatizovaného hackingu. Súboj medzi obrancami a útočníkmi naberá na obrátkach a AI je nepochybne v jeho centre.
