Interni akt o umetni inteligenci

Akt o umetni inteligenci (AI Act)

Organizacijam pomagamo pri pripravi internega akta o umetni inteligenci.

Akt o umetni inteligenci - AI Act EU

Akt o umetni inteligenci je prva celovita evropska ureditev tega področja (Uredba EU 2024/1689). Določa enotna pravila za razvoj, dajanje na trg in uporabo sistemov umetne inteligence v EU. Za podjetja je ključno razumeti, kdaj uporaba umetne inteligence prinaša določene obveznosti, kako zagotoviti skladnost z zakonodajo ter kje poiskati zanesljive informacije in podporo pri uvajanju novih rešitev.

Pomagamo vam pri izdelavi akta o umetni inteligenci

Pomagamo vam pri pripravi Akta o umetni inteligenci, ki jasno določa pravila, odgovornosti in varno uporabo AI-orodij v vaši organizaciji. Dokument prilagodimo vašim procesom, tveganjem in zahtevam AI Acta, tako da imate uporabo umetne inteligence urejeno, pregledno in skladno.

Pristop, ki temelji na tveganju

Akt sisteme umetne inteligence razvršča glede na tveganje, ki ga predstavljajo za ljudi in družbo:

Nesprejemljivo tveganje: nekatere prakse so prepovedane (npr. družbeno točkovanje in manipulativni sistemi, ki izkoriščajo ranljivosti posameznikov).
Visoko tveganje: sistemi na občutljivih področjih (npr. zaposlovanje, izobraževanje, kritična infrastruktura) morajo izpolnjevati stroge zahteve.
Omejeno tveganje: veljajo obveznosti glede preglednosti (npr. obvestilo, da uporabnik komunicira z umetno inteligenco).
Minimalno tveganje: večina vsakodnevnih orodij, ki niso posebej regulirana.

Prepovedane prakse in visokotvegani sistemi

Akt prepoveduje prakse, ki pomenijo nesprejemljivo tveganje za temeljne pravice, ter posebej ureja visokotvegane sisteme. Za slednje določa zahteve, kot so:

vzpostavitev sistema upravljanja tveganj in kakovosti;
ustrezno upravljanje ter kakovost podatkov;
tehnična dokumentacija in vodenje dnevnikov;
preglednost in obveščanje uporabnikov;
ustrezen človeški nadzor ter zanesljivost, natančnost in kibernetska varnost.

Obveznosti podjetij in uporabnikov

Obveznosti so odvisne od vaše vloge in vrste sistema. Na kaj morajo biti podjetja pozorna:

Vloga: ali ste ponudnik (razvijalec) ali uporabnik (uvajalec) sistema umetne inteligence.
Preglednost: jasno označevanje vsebin, ustvarjenih z umetno inteligenco, in globokih ponaredkov (deepfake).
Varstvo podatkov: skladnost z GDPR in ZVOP-2 pri obdelavi osebnih podatkov.
Usposobljenost: ustrezno znanje zaposlenih o zmožnostih, omejitvah in tveganjih umetne inteligence.
Dokumentacija: vodenje evidenc in dokazil o skladnosti.

Vloga AKOS in časovnica uporabe

V Sloveniji pomemben del pristojnosti za izvajanje Akta o umetni inteligenci opravlja Agencija za komunikacijska omrežja in storitve RS (AKOS). Na podlagi zakona o izvajanju uredbe (ZIUDHPUI) je vzpostavila enotno kontaktno točko za mikro, mala in srednje velika podjetja, zagonska podjetja ter druge deležnike, kjer nudi informacije o pravicah in obveznostih.

Akt se uvaja postopno: prepovedi nesprejemljivih praks veljajo od februarja 2025, pravila za splošnonamenske modele umetne inteligence od avgusta 2025, večina obveznosti za visokotvegane sisteme pa se uporablja od avgusta 2026, nekatere za regulirane izdelke od avgusta 2027. Za uradna in zavezujoča pojasnila priporočamo vire in kontaktno točko AKOS.

Pogosta vprašanja in odgovori

Kaj je Akt o umetni inteligenci (AI Act)?

Je prva celovita evropska zakonodaja (Uredba EU 2024/1689), ki ureja razvoj in uporabo umetne inteligence. Njen namen je spodbujati inovacije ter hkrati zagotoviti, da so sistemi umetne inteligence varni, pregledni in skladni s temeljnimi pravicami.

Za koga velja Akt o umetni inteligenci?

Velja za ponudnike (razvijalce) in uporabnike (uvajalce) sistemov umetne inteligence, ki jih dajejo na trg ali uporabljajo v EU – ne glede na to, ali imajo sedež v EU ali zunaj nje. Obseg obveznosti je odvisen od vloge in stopnje tveganja sistema.

Katere prakse so prepovedane?

Prepovedane so prakse z nesprejemljivim tveganjem za temeljne pravice, kot so družbeno točkovanje, manipulativni sistemi, ki izkoriščajo ranljivosti posameznikov, ter določene oblike množičnega biometričnega prepoznavanja. Natančen obseg določa besedilo Akta.

Kaj velja za visokotvegane sisteme?

Med drugim obravnavamo delovanje AI-orodij, varno in odgovorno rabo, varovanje osebnih in zaupnih podatkov, prepoznavanje tveganj (npr. lažne vsebine, deepfake, phishing), preverjanje rezultatov, etična in pravna vprašanja ter praktično uporabo umetne inteligence pri vsakdanjem delu.

Kakšne obveznosti ima moje podjetje?

Odvisno od vaše vloge in vrste sistema. Praviloma morate vedeti, katera orodja umetne inteligence uporabljate, zagotoviti preglednost (npr. označevanje vsebin, ustvarjenih z umetno inteligenco), varovati osebne podatke skladno z GDPR in ZVOP-2 ter poskrbeti za ustrezno usposobljenost zaposlenih.

Kdaj se Akt začne uporabljati?

Akt se uvaja postopno: prepovedi veljajo od februarja 2025, pravila za splošnonamenske modele umetne inteligence od avgusta 2025, večina obveznosti za visokotvegane sisteme pa se uporablja od avgusta 2026, nekatere za regulirane izdelke od avgusta 2027.

Kdo je pristojni organ v Sloveniji?

V Sloveniji pomemben del pristojnosti opravlja Agencija za komunikacijska omrežja in storitve RS (AKOS), ki je vzpostavila enotno kontaktno točko za podjetja in druge deležnike ter nudi informacije o pravicah in obveznostih iz Akta.