Kakšno je trenutno stanje implementacije Akta o umetni inteligenci v Sloveniji

Pogovarjali smo se z go. Darjo Petric Štrbenk, iz Službe za pravne in zakonodajne zadeve na Ministrstvu za digitalno preobrazbo

Oktobra lani smo v okviru iniciative AI4SI organizirali spletni seminar z naslovom Pripravljeni na Akt o umetni inteligenci, kjer smo osvetlili prve korake Slovenije pri pripravi na novo evropsko zakonodajo s tega področja. Posnetek seminarja si lahko ogledate tukaj.

Na dogodku je ga. Darja Petric Štrbenk predstavila aktivnosti, ki jih je Slovenija že izvedla oz. jih namerava izvesti z namenom vključitve določb Akta o umetni inteligenci v nacionalni pravni red. Go. Petric Štrbenk smo ponovno povabili k pogovoru, da z nami deli najnovejše informacije o trenutnem stanju na področju implementacije ter o prihodnjih izzivih in priložnostih, ki jih prinaša uvedba te pomembne evropske uredbe.

Ga. Petric Štrbenk, najlepša hvala, da ste si ponovno vzeli čas za našo iniciativo in nam boste odgovorili na nekaj vprašanj. Na oktobrskem spletnem seminarju AI4SI »Pripravljeni na Akt o umetni inteligenci«, ste povedali, da morajo države članice do 2. 11. 2024 določiti javne organe ali telesa, ki nadzorujejo ali uveljavljajo spoštovanje obveznosti na podlagi prava EU o varstvu temeljnih pravic, vključno s pravico do nediskriminacije. Vaše ministrstvo je januarja letos Vladi RS poslalo predlog za obravnavo informacije o seznamu organov. Zakaj je prišlo do zakasnitve?

Ministrstvo za digitalno preobrazbo, ki je zadolženo za implementacijo Akta o umetni inteligenci, je v skladu s 77. členom Akta o umetni inteligenci moralo najprej pripraviti seznam javnih organov, ki nadzorujejo ali uveljavljajo spoštovanje obveznosti na podlagi prava Unije o varstvu temeljnih pravic (vključno s pravico do nediskriminacije). Namen citirane določbe je v obravnavanju primerov, ko se zloraba ali nepravilno delovanje visokotveganih sistemov UI iz Priloge III akta odraža v kršitvi temeljnih pravic. Po preveritvi, kateri organi v Sloveniji nadzorujejo ali uveljavljajo spoštovanje obveznosti na podlagi prava Unije o varstvu temeljnih pravic, smo na seznam uvrstili naslednje organe: (1) Informacijskega pooblaščenca, (2) Tržni inšpektorat Republike Slovenije, (3) Zagovornika načela enakosti, (4) Inšpektorat Republike Slovenije za delo, (5) Inšpektorat Republike Slovenije za šolstvo, (6) Agencijo za komunikacijska omrežja in storitve Republike Slovenije, (7) Inšpektorat Republike Slovenije za kulturo in medije, (8) Inšpektorat Republike Slovenije za okolje in energijo, (9) Inšpektorat Republike Slovenije za naravne vire in prostor, ter (10) Inšpektorat Republike Slovenije za notranje zadeve. Ker je bilo seznam javnih organov potrebno uskladiti z večino resornih ministrstev in ker gre za zahtevno tematiko, se je Vlada RS s seznamom javnih organov seznanila konec januarja 2025. 

Navedeni javni organi so v zvezi z uporabo visokotveganih sistemov UI iz Priloge III že na podlagi Akta o umetni inteligenci pooblaščeni, da zahtevajo vso dokumentacijo, ustvarjeno ali hranjeno na podlagi akta v primeru, ko so z visokotveganimi sistemi UI s področja (1) biometrije, (2) kritične infrastrukture, (3) izobraževanja ali poklicnega usposabljanja, (4) zaposlovanja, upravljanja delavcev in dostopa do samozaposlitve, (5) uživanja bistvenih zasebnih ali javnih storitev in ugodnosti ter dostopa do njih, (6) preprečevanja, odkrivanja in preiskovanja kaznivih dejanj, (7) migracij, azila in upravljanja nadzora meje ter (8) pravosodja in demokratičnih procesov, kršene temeljne pravice.

Na seznamu ste uvrstili kar 10 organov. Ali to pomeni, da bo imel vsak organ 1 zaposlenega, ki bo zadolžen za te aktivnosti? Kako bodo organi zagotovili pravilno razumevanje Akta o UI – so predvidena šolanja na to temo?

Ker Akt o umetni inteligenci na seznam uvrščene javne organe zgolj pooblašča, da imajo dostop do dokumentacije, ki jo potrebujejo za izvajanje njihovih siceršnjih pristojnosti na podlagi prava Unije o varstvu temeljnih pravic in jim ne predpisuje nobenih dodatnih pristojnosti, zaenkrat tudi ni predvideno, da bi iz tega naslova pri teh organih dodatno zaposlovali.  

Naslednji rok na časovnici implementacije je 2. 8. 2025, do katerega morajo članice določiti 1 organ za nadzor trga in 1 priglasitveni organ. V oktobrskem predavanju ste omenili, da bo to določeno z Zakonom o izvajanju Akta o UI – kako daleč smo tu in ali bomo ujeli avgustovski rok?

Ministrstvo za digitalno preobrazbo je pripravilo osnutek Zakona o izvajanju Uredbe (EU) o določitvi harmoniziranih pravil o umetni inteligenci, ki je v javni obravnavi do 14. aprila 2025. Osnutek zakona določa pristojne organe za izvajanje in nadzor ter prekrške in globe za kršitev Akta o umetni inteligenci. V osnutku zakona so kot organi za nadzor trga predvideni Agencija za komunikacijska omrežja in storitve Republike Slovenije (AKOS), Informacijski pooblaščenec, Agencija za zavarovalni nadzor, Banka Slovenije in Tržni inšpektorat. V skladu s trenutno časovnico pričakujemo, da bo Vlada RS predlog zakona potrdila do konca maja in ga predložila v zakonodajni postopek.

Kako pa je s pravili o kaznih in drugih izvršilnih ukrepih, o katerih ste tudi govorili. Bo izhodišče za ta pravila že kakšen obstoječi zakon?

Izhodišča za pravila o kaznih so določena z 99. členom Akta o umetni inteligenci, izvršilni ukrepi pa so določeni v zakonu, ki ureja tehnične zahteve za proizvode in ugotavljanje skladnosti.

Kaj naj podjetja že danes naredijo, da bodo skladne z Aktom o UI in nastajajočem Zakonu o izvajanju akta?

Da bodo skladna z Aktom o UI priporočam, da se podjetja že sedaj seznanijo z zahtevami, ki jih Akt predpisuje za visokotvegane sisteme UI (določbe členov 8 do 15) ter z obveznostmi, ki jih akt določa za ponudnike, pooblaščene zastopnike, uvoznike, distributerje in uvajalce visokotveganih sistemov UI (določbe 16. do 27. člena Akta o umetni inteligenci). Ker so že od 2. februarja 2025 dalje v uporabi določbe glede prepovedanih ravnanj (5. člen) in glede pismenosti na področju UI (4. člen), se je treba tudi čim prej uskladiti z navedenimi določbami.

Prav tako se lahko podjetja pridružijo Paktu za UI, ki ga je ustanovila Evropska komisija (Urad za UI) in katerega namen je v spodbujanju in podpiranju organizacij pri vnaprejšnjem načrtovanju izvajanja ukrepov iz Akta o umetni inteligenci. Pakt za UI temelji na dveh stebrih, pri čemer je prvi steber na voljo vsem deležnikom (tj. podjetjem, neprofitnim organizacijam, akademskim organizacijam, javnim uslužbencem), v okviru tega stebra udeleženci prispevajo k oblikovanju sodelovalne skupnosti ter si izmenjujejo izkušnje in znanje. Prvi steber vključuje tudi spletne seminarje, ki jih organizira Urad za UI, in ki udeležencem omogočajo boljše razumevanje Akta o umetni inteligenci, njihovih odgovornosti in načina priprave na njegovo izvajanje. Drugi steber pa je namenjen spodbujanju organizacij, da proaktivno razkrijejo postopke in prakse, ki jih izvajajo, da bi predvidele skladnost. Natančneje, podjetja, ki zagotavljajo ali uvajajo sisteme UI, lahko dokažejo in delijo svoje prostovoljne zaveze glede zahtev Akta o umetni inteligenci glede preglednosti in velikega tveganja ter se že zgodaj pripravijo na njihovo izvajanje.

Vsa podjetja vabim, da si več o Paktu UI preberejo na povezavi: Pakt o umetni inteligenci | Shaping Europe’s digital future)

Najlepša hvala ga. Petric Štrbenk za vaše odgovore.

Dragi bralci, vabimo vas, da si o javni obravnavi osnutka Zakona o izvajanju Uredbe (EU) o določitvi harmoniziranih pravil o UI več preberete na spletni strani Združenja za informatiko in telekomunikacije.

Akt o umetni inteligenci je na voljo tukaj.