Akt o umetni inteligenci – kaj to pomeni za podjetja?

Akt o umetni inteligenci (UREDBA (EU) 2024/1689 EVROPSKEGA PARLAMENTA IN SVETA z dne 13. junija 2024) je prvi okvir na ravni EU, ki določa harmonizirana pravila na področju uporabe sistemov umetne inteligence, prepovedi nekaterih praks umetne inteligence, posebne zahteve za visokotvegane sisteme UI in obveznosti za operaterje takšnih sistemov.

Uredba (EU) 2024/1689 vzpostavlja celovit pravni okvir za razvoj, uporabo in regulacijo sistemov umetne inteligence (UI) v EU, s čimer uvaja specifične zahteve za industrijske panoge in javni sektor, vključno s slovenskim trgom. Ta uredba je namenjena zagotavljanju skladnosti sistemov UI s temeljnimi pravicami in načeli EU, kot so varovanje zdravja, varnost, demokracija in pravna država, ter obvladovanju tveganj, ki jih predstavlja UI. V nadaljevanju povzemam ključne vplive, mejnike ter učinke uredbe na industrijske panoge in javni sektor v Sloveniji.

Umetna inteligenca je prodrla v vse pore našega življenja. Načini, modeli in arhitektura uporabe UI pa se spreminjajo praktično dnevno.

Vpliv na posamezne industrijske panoge

1. Tehnološki sektor (posebej za razvijalce UI):
   • Uredba določa stroge zahteve za UI sisteme z visokim tveganjem, ki se pogosto uporabljajo v tehnološkem sektorju, kot so sistemi za prepoznavo obraza, analitiko in avtomatizacijo odločitev. Razvijalci teh sistemov bodo morali zagotoviti skladnost z zahtevami, ki zajemajo transparentnost, sledljivost, varnost podatkov in spoštovanje temeljnih pravic.
   • Vsak UI sistem bo moral pridobiti certifikacijo, preden bo na voljo na trgu EU, kar bo vplivalo na čas in stroške razvoja ter uveljavitve novih tehnologij.
2. Finančni sektor:
   • Uporaba UI za finančne analize, ocene kreditnega tveganja in storitve svetovanja bo morala slediti strogim regulativnim smernicam glede odgovornosti in preglednosti.
   • Tudi avtomatizirani sistemi odločanja pri izdaji posojil in analizi tveganja bodo morali biti transparentni in ne smejo diskriminirati, kar pomeni dodatne stroške za vzdrževanje skladnosti.
3. Proizvodni sektor (industrijska avtomatizacija):
   • Podjetja, ki uporabljajo UI za avtomatizacijo in optimizacijo proizvodnje, bodo morala zagotoviti, da so njihovi sistemi zasnovani v skladu z varnostnimi standardi.
   • Potrebna bo ocena tveganj za UI v primeru, da avtomatizacija vključuje nevarne naloge ali kritične infrastrukture. Stroški skladnosti se lahko povečajo, zlasti za manjša podjetja.
4. Zdravstvo:
   • Zdravstveni sektor, ki se opira na UI za diagnostična orodja, predvidevanje zdravstvenih tveganj in priporočila zdravljenja, bo moral zagotoviti, da so ti sistemi preizkušeni in verificirani za natančnost, zanesljivost in skladnost s predpisi o varstvu osebnih podatkov.
   • Za uporabo UI v zdravstvu bodo predpisani dodatni koraki za certifikacijo in sledljivost, kar lahko podaljša čas razvoja in implementacije novih rešitev.
5. Prevoz in logistika (vključno z avtonomnimi vozili):
   • Uredba uvaja zahteve za uporabo UI v transportu, še posebej za avtonomna vozila in droni, kjer so varnost, zanesljivost in odgovornost ključni elementi.
   • Proizvajalci bodo morali zagotoviti certifikacijo ter dokazati varnostne mehanizme pred dajanjem vozil in sistemov v promet.

Vpliv na javni sektor

Javni sektor bo moral UI uporabljati odgovorno, še posebej za naloge, ki vplivajo na temeljne pravice državljanov. Sistemom UI, ki jih uporabljajo organi oblasti, bo tako naloženo strožje preverjanje in pridobivanje certifikatov za skladnost.

1. Uporaba UI za javne storitve:
   • Javne organizacije bodo morale pridobiti certificirane sisteme UI za naloge, kot so varnostna nadzorna tehnologija, socialne storitve, avtomatizacija odločanja pri dodelitvi socialne pomoči ali drugih ugodnosti.
   • Da se preprečijo pristranska ali nepravična odločanja, bodo organi morali zagotavljati, da je UI zasnovana na transparenten in nediskriminatoren način, kar lahko podaljša implementacijo takih sistemov v javnem sektorju.
2. Zbiranje podatkov in transparentnost:
   • Javne ustanove bodo morale dosledno upoštevati zahteve za varstvo osebnih podatkov pri uporabi UI, s čimer se zagotavlja zaupanje državljanov.
   • Poudarek je na odgovornosti za vse algoritme, ki vplivajo na dostop do javnih storitev ali drugih pravic, kar pomeni strožje nadzorne postopke in varnostne standarde za vso UI infrastrukturo.

Ključni datumi in mejniki

• 2024 – Objava in sprejetje uredbe: Uredba je bila sprejeta 13. junija 2024 in je začela veljati po objavi v Uradnem listu EU.
• 2025 – Začetek uporabe: Predvideno je, da bodo podjetja in javne institucije imela določeno prehodno obdobje, da prilagodijo obstoječe UI sisteme. Datum začetka uporabe bo verjetno postavljen na leto 2025.
• 2026 – Prva ocena skladnosti in preverjanje sistemov UI z visokim tveganjem: Sistem certificiranja za UI z visokim tveganjem naj bi postal obvezen.
• 2030 – Celovita implementacija in pregled skladnosti uredbe: Do tega datuma bo uredba v celoti uveljavljena, pričakuje se, da bodo vse panoge skladne, predvideni pa so redni pregledi skladnosti.

Konkretni datumi:

Začetek veljavnosti in uporaba Ta uredba začne veljati dvajseti dan po objavi v Uradnem listu Evropske unije. Uporablja se od 2. avgusta 2026.

Vendar se:

(a)     poglavji I in II začneta uporabljati od 2. februarja 2025;

(b)    poglavje III, oddelek 4, poglavje V, poglavje VII in poglavje XII ter člen 78 uporabljajo od 2. avgusta 2025, razen člena 101;

(c)     člen 6(1) in ustrezne obveznosti iz te uredbe uporabljajo od 2. avgusta 2027.

Ta uredba je v celoti zavezujoča in se neposredno uporablja v vseh državah članicah. V Bruslju, 13. junija 2024

Uredba (EU) 2024/1689 bo zahtevala usklajenost s kompleksnimi varnostnimi in etičnimi standardi, kar prinaša pomembne finančne in organizacijske izzive za industrijske panoge in javni sektor.