Evropska unija bo 2. februarja 2025 začela izvajati ključne določbe Akta o umetni inteligenci, ki prepovedujejo uporabo sistemov umetne inteligence (UI) z nesprejemljivim tveganjem. To predstavlja enega izmed najpomembnejših korakov pri regulaciji umetne inteligence v EU. 

Kaj prepoveduje Akt o umetni inteligenci?

Med prepovedane prakse sodijo sistemi UI, ki:

• Manipulirajo vedenje posameznikov s podzavestnimi tehnikami ali zavajanjem, če to lahko povzroči znatno škodo.
• Izkoriščajo ranljivosti oseb zaradi starosti, invalidnosti ali socialno-ekonomskega položaja za vplivanje na njihovo vedenje.
• Ocenjujejo ali razvrščajo posameznike na podlagi njihovega socialnega vedenja ali osebnostnih lastnosti, kar vodi v diskriminacijo.
• Napovedujejo tveganje, da bo posameznik storil kaznivo dejanje, zgolj na podlagi profiliranja.
• Ustvarjajo ali uporabljajo baze podatkov za prepoznavanje obrazov, ki se zbirajo brez vednosti posameznikov.
• Sklepajo o čustvih posameznikov v delovnem ali izobraževalnem okolju, razen če je to potrebno iz medicinskih ali varnostnih razlogov.
• Kategorizirajo posameznike na podlagi biometričnih podatkov za sklepanje o njihovi rasi, političnih prepričanjih, verskih prepričanjih ali spolni usmerjenosti.
• Uporabljajo sisteme za oddaljeno biometrično identifikacijo v realnem času na javnih mestih za izvrševanje zakonodaje, razen v izjemnih primerih, kot je preprečevanje terorističnih napadov.

Zakaj so prepovedi pomembne?

Namen teh prepovedi je zaščititi osnovne pravice in svoboščine posameznikov ter preprečiti zlorabe umetne inteligence. Evropska unija želi z regulacijo zagotoviti, da se UI uporablja na način, ki je etičen, pregleden in varen za vse državljane.

Kazni za neskladnost

Podjetja, ki bodo kršila prepovedi iz Akta o umetni inteligenci, bodo soočena z visokimi kaznimi. Te lahko znašajo do 35 milijonov evrov ali do 7 % globalnega letnega prometa podjetja, kar bo dodatno motiviralo organizacije, da poskrbijo za skladnost z zakonodajo.

Kaj morajo storiti organizacije?

Organizacije, ki razvijajo ali uporabljajo sisteme umetne inteligence, morajo pregledati svoje prakse in zagotoviti skladnost z novimi predpisi do februarja 2025. Pomembno je, da uvedejo ukrepe za zagotavljanje človeškega nadzora nad sistemi UI, vzpostavijo mehanizme za upravljanje tveganj ter zagotovijo transparentnost uporabe UI.

Zaključek

Z uvedbo prepovedi nesprejemljivih tveganj EU postavlja nove standarde za uporabo umetne inteligence. Cilj je ustvariti okolje, kjer bodo koristi umetne inteligence lahko izkoriščene na odgovoren način, hkrati pa bodo zaščitene pravice posameznikov.