Kdo bo nadziral umetno inteligenco v Sloveniji? Osnutek zakona v javni razpravi.

Ministrstvo za digitalno preobrazbo je v javno obravnavo poslalo osnutek Zakona o izvajanju Uredbe (EU) o določitvi harmoniziranih pravil o umetni inteligenci (ZIUEUDHPUI), ki določa pristojne organe za izvajanje in nadzor nad izvajanjem Uredbe (EU) 2024/1689 Evropskega parlamenta in Sveta z dne 13. junija 2024 o določitvi harmoniziranih pravil o umetni inteligenci in spremembi uredb (ES) št. 300/2008, (EU) št. 167/2013, (EU) št. 168/2013, (EU) 2018/858, (EU) 2018/1139 in (EU) 2019/2144 ter direktiv 2014/90/EU, (EU) 2016/797 in (EU) 2020/1828 (Akt o umetni inteligenci), ter prekrške in globe v zvezi z izvajanjem Uredbe 2024/1689/EU. Bistveni namen pravil o umetni inteligenci je izboljšati delovanje notranjega trga z določitvijo enotnega pravnega okvira, predvsem za razvoj, dajanje na trg, dajanje v uporabo ter za uporabo umetnointeligenčnih sistemov v EU.

Zakon določa tudi ukrepe ministrstva, pristojnega za informacijsko družbo, v zvezi z izvedbo promocijskih kampanj o uporabi Uredbe 2024/1689/EU, prilagojenim potrebam malih in srednjih podjetjih, vključno z zagonskimi podjetji, uvajalci in organi lokalne samouprave.

Pristojnosti organov za nadzor trga

Osnutek zakona pristojnost organov za nadzor trga podeljuje Informacijskemu pooblaščencu, Agenciji za komunikacijska omrežja in storitve Republike Slovenije, Agenciji za zavarovalni nadzor, Banki Slovenije in Tržnemu inšpektoratu Republike Slovenije. Pristojni nacionalni organi morajo glede na uredbo imeti zlasti osebja, ki je nenehno na voljo ter katerega kompetence in strokovno znanje vključujejo poglobljeno razumevanje tehnologij umetne inteligence, podatkov in računalniške obdelave podatkov, varstva osebnih podatkov, kibernetske varnosti, temeljnih pravic, zdravstvenih in varnostnih tveganj ter poznavanja obstoječih standardov in pravnih zahtev.

Informacijski pooblaščenec bo opravljal naloge organa za nadzor trga nad prepovedanimi praksami, nad visokotveganimi sistemi umetne inteligence s področja biometrije, izobraževanja in poklicnega usposabljanja, preprečevanja, odkrivanja in preiskovanja kaznivih dejanj, migracij, azila in upravljanja nadzora meje ter s področja pravosodja in demokratičnih procesov.

Agencija za zavarovalni nadzor bo opravljala nadzor nad sistemi umetne inteligence, namenjenimi oceni tveganja in oblikovanja cen v zvezi s fizičnimi osebami v primeru življenjskega in zdravstvenega zavarovanja, Banka Slovenije pa nad sistemi umetne inteligence za ocenjevanje kreditne sposobnosti fizičnih oseb ali določanje njihove kreditne ocene, če so ti v uporabi pri finančnih institucijah. Nad takimi sistemi, ki se uporabljajo pri nebančnih ponudnikih, je kot organ za nadzor trga predlagan Tržni inšpektorat Republike Slovenije.

Nadzor nad visokotveganimi sistemi umetne inteligence

Agencija za komunikacijska omrežja bo v skladu s predlogom opravljala naloge organa nadzora nad visokotveganimi sistemi umetne inteligence s področja kritične infrastrukture, zaposlovanja, upravljanja delavcev in dostopa do samozaposlitve, ocenjevanja upravičenosti fizičnih oseb do bistvenih ugodnosti in storitev javne pomoči, vključno z zdravstvenimi storitvami ter ocenjevanja in razvrščanja nujnih klicev fizičnih oseb za napotitev služb za ukrepanje on nesrečah. Agencija za komunikacijska omrežja bo skladno s predlogom nadzirala tudi obveznosti ponudnikov in uvajalcev nekaterih sistemov umetne inteligence glede preglednosti.

Enotna kontaktna točka

Osnutek zakona določa še enotno kontaktno točko, pristojni organ za vodenje evidence visokotveganih sistemov umetne inteligence s področja kritične infrastrukture ter pristojni organ za vzpostavitev regulativnih peskovnikov za umetno inteligenco ter njegove naloge. Glede na osnutek bo to Agencija za komunikacijska omrežja in storitve Republike Slovenije.

Določeni so tudi ukrepi ministrstva, povezani z izvedbo promocijskih kampanj o uporabi Akta o umetni inteligenci, prilagojeni potrebam malih in srednjih podjetij, vključno z zagonskimi podjetji, uvajalci in organi lokalne skupnosti. Uredba tudi določa, da morajo države članice zagotoviti, da so informacije o enotni kontaktni točki javno dostopne.

Vir: Zakon o izvajanju Uredbe (EU) o določitvi harmoniziranih pravil o umetni inteligenci.