Shrani za kasnejše branje.
Zagotovitev skladnosti z uredbo o umetni inteligenci je odlična priložnost za organizacijo poslovanja in integracijo tehnologije skladno s poslovnimi cilji podjetja.
Mateja Jordan
Večina umetnointeligenčnih sistemov, ki jih bo družba lahko v prihodnosti uporabljala za reševanje številnih izzivov, ne predstavlja nobenega resnega tveganja. V nekaterih primerih pa ni mogoče ugotoviti, zakaj je umetnointeligenčni sistem sprejel določeno odločitev, ukrep ali napoved, zaradi katere je bil morda nekdo neupravičeno prikrajšan, recimo pri iskanju zaposlitve ali odobritvi kredita. Takšni sistemi ustvarjajo tveganja, pred katerimi želi Evropska unija svoje državljane zavarovati z Aktom o umetni inteligenci (UI), prvim zakonodajnim okvirjem za regulacijo tega področja na svetu. Z njim se vzpostavljajo smernice tako za razvijalce in regulatorje kot za uporabnike umetne inteligence.
Temeljno izhodišče akta o umetni inteligenci določa, da morajo biti sistemi UI, ki se uporabljajo v EU, varni, pregledni, sledljivi, nediskriminatorni in okolju prijazni. Pristop pa določa obveznosti za ponudnike in uporabnike glede na stopnjo tveganja, ki ga povzroča UI, je pojasnil predsednik Oglaševalskega razsodišča Jaka Repanšek.
Uredba ščiti temeljne pravice državljanov EU
Evropska uredba o umetni inteligenci ureja uporabo UI na trgu EU, vključno s tem, kako se modeli in sistemi UI razvijajo, testirajo, uvajajo in spremljajo, pojasnjuje Gregor Strojin iz Odvetniške pisarne Deloitte Legal Reff – podružnice v Sloveniji. Ključni cilj uredbe, ki od 1. avgusta letos neposredno velja tudi v Sloveniji, je zagotoviti, da so UI sistemi varni in zanesljivi ter da njihova uporaba ne škoduje temeljnim pravicam državljanov EU.
Z Aktom o umetni inteligenci se vzpostavljajo smernice za razvijalce, regulatorje in uporabnike umetne inteligence.
Kot utemeljuje sogovornik, je bilo sprejetje uredbe potrebno zaradi povečanih tveganj, ki jih prinašata hitra rast in razširjenost UI tehnologij. Med tveganji navaja tako grožnjo zasebnosti zaradi obsežnega zbiranja in obdelave podatkov, povečane možnosti kibernetskih napadov in etična vprašanja glede pristranskosti in diskriminacije, kot tveganja napačnih odločitev zaradi napak v algoritmih.
Največje spremembe in omejitve lahko po Strojinovi napovedi pričakujejo v tistih sektorjih oziroma podjetjih, kjer uporabljajo visoko tvegane sisteme UI. Gre za različna področja, od splošne uporabe biometrije, preko finančnega in zavarovalniškega sektorja, kritične infrastrukture, prometa, kadrovanja, dostopa do bistvenih storitev, zdravstva, pa seveda do delovanja javnih in državnih organov, našteva Strojin. V že reguliranih sistemih, na primer v bankah, avtomobilski industriji ali pri razvoju medicinskih naprav se bodo obstoječe obveznosti razširile s specifičnimi zahtevami iz novega akta. Nova pravila pa bodo močneje vplivala tudi na doslej neregulirane sektorje, saj se bodo morala takšna podjetja celoviteje pripraviti na zagotavljanje skladnosti.
Nova pravila bodo močneje vplivala na doslej neregulirane sektorje, poudarja Gregor Strojin.
Foto: Deloitte Legal Reff
Nekatere prepovedi že februarja 2025
Uredba prepoveduje uporabo posebej opredeljenih orodij, ki lahko povzročijo nesorazmerno škodo ali resno kršijo temeljne pravice državljanov. Med temi Strojin izpostavlja primere subliminalnih tehnik za manipulacijo vedenja posameznikov, socialno točkovanje, ki posameznike vrednoti na podlagi njihovega obnašanja ali značilnosti, ter različne oblike biometričnega nadzora in klasifikacije.
»Za podjetja je recimo pomembna splošna prepoved sklepanja o čustvenem stanju zaposlenih, ki pa je dovoljeno iz varnostnih ali zdravstvenih razlogov,« poudarja sogovornik in opozarja, da je treba obstoječa orodja na teh področjih pravočasno dobro preveriti in po potrebi izpeljati morebitne prilagoditve. Čeprav glavne obveznosti nastopijo šele v letu 2026, naštete prepovedi stopijo v veljavo že februarja 2025.
Obveznosti bodo odvisne od značilnosti sistemov, ki jih že uporabljajo ali načrtujejo, zato morajo podjetja pred tem opraviti pregled lastnega inventarja. Seznam obveznosti je dolg in obsega upravljanje tveganj, dokumentiranje razvojnih odločitev, pripravo tehnične dokumentacije in uporabniških navodil, zagotavljanje sledljivosti in transparentnosti, certifikacijo in registracijo, usposabljanje zaposlenih ter izvajanje rednih revizij skladnosti. Odvetniška pisarna Deloitte Legal pri pripravah na naštete zahteve že sodeluje s podjetji, vključno s klasifikacijo uporabe in analizo pomanjkljivosti, vzpostavljanjem notranjih procesov za skladnost in upravljanje, oceno tveganj in usposabljanjem zaposlenih.
Krepitev lastnih kapacitet in sodelovanje s specializiranimi strokovnjaki
Postavitev temeljev regulatorne skladnosti in optimizacija poslovanja terjata znanje in sodelovanje različnih profilov – pravnikov, razvojnih in podatkovnih inženirjev ter strokovnjakov za informacijsko varnost, upravljanje in varstvo podatkov, za etična, organizacijska in kadrovska vprašanja. Takšnih profilov glede na potrebe osnovnih poslovnih procesov večina podjetij ne potrebuje ves čas niti jih ni toliko na trgu, da bi imela lastne kadre, zato je po Strojinovem mnenju smiseln angažma zunanjih specializiranih strokovnjakov.
Glavne obveznosti stopijo v veljavo šele v letu 2026, a nekatere prepovedi začnejo veljati že februarja 2025.
V praksi se krepi tudi vpletenost podjetij v različne in pogosto kompleksne dobavne verige zaradi prevzemanja in integracije tehnoloških rešitev drugih ponudnikov, na primer modelov UI za splošne namene, opaža pravnik. »Specifike takšnega sodelovanja z zunanjimi partnerji v vsakem primeru zahtevajo krepitev lastnih kapacitet za ustrezno oblikovanje pogodbenih odnosov in upravljanje tveganj.«
Gregor Strojin se ne boji, da bi akt zavrl uporabo umetne inteligence. Kot primer navaja regulacije na drugih področjih, na primer farmacije, ki kažejo ravno nasprotno. »Regulacija omogoči prehod iz eksperimentalnih faz na produkcijsko, 'enterprise' raven. Kratkoročno sicer lahko zmanjša hitrost uvajanja in prinaša določene stroške, dolgoročno pa odpravlja številna tveganja in negotovost ter vzpostavlja okolje za preverljivo kakovost in transparentnejše delovanje trga. To krepi sodelovanje in pripravljenost za investicije, s tem pa tudi nadaljnje inovacije. Nihče ne želi kupovati mačkov v žaklju,« pravi Strojin in spomni, da do podobne regulacije že prihaja tudi drugod po svetu.
Zahteve nove uredbe so minimalna obveza kot pogoj za nastopanje na trgu.
Podjetje lahko zahteve obrne v svojo korist
Podjetja zaradi prilagoditve na Akt o umetni inteligenci sicer čakajo dodatna opravila in večji stroški, a je po Strojinovih besedah smiselno, da se zakonskih zahtev ne obravnava le z vidika skladnosti in birokracije. Zahteve nove uredbe so minimalna obveza kot pogoj za nastopanje na trgu in seveda predstavljajo določen strošek, vendar hkrati pomenijo tudi neko obliko zavarovanja pred prihodnjimi stroški, povezanimi z neskladnostjo poslovanja in morebitnimi odškodninskimi zahtevki, je prepričan sogovornik.
Kot kažejo analize, številna podjetja ne uspejo preiti s posameznih testnih primerov uporabe UI na produkcijsko raven. Strojin pogosto težavo vidi v iskanju rešitev za posamične funkcije, namesto integracije tehnologije v širši poslovni proces. Razloge išče v neustrezni organizaciji – fragmentiranosti pri odločanju o razvoju ali vpeljavi novih idej, ali pa v slabi kakovosti razpoložljivih podatkov. Kot lep primer izpostavlja uvajanje GDPR. »Številni so bili usmerjeni predvsem v preprečevanje tveganj, manj pa v to, kako posodobiti temelje upravljanja s podatki, ki predstavljajo ključno sestavino za učinkovit razvoj in rast novih tehnologij v poslovnem okolju.«
Gregor Strojin ne dvomi, da lahko z ustreznim pristopom, ki gre preko odprave tveganj in prispeva k ustvarjanju dodatne vrednosti, podjetje zahteve obrne sebi v prid. »Postopki za zagotovitev skladnosti so odlična priložnost za organizacijo poslovanja in integracijo tehnologije skladno s poslovnimi cilji podjetja in na trdnih temeljih, ki omogočajo učinkovitost in rast.«
Kako ohraniti inovativnost podjetij pri razvoju in uporabi UI?
To je po mnnenju Jake Repanška ob novih omejitvah ključno vprašanje. Prednosti in številne priložnosti, denimo v medicini, izobraževanju ali avtomatizaciji, so trenutno porinjene v ozadje, saj se večina naprednih držav in mednarodnih organizacij ukvarja predvsem z etičnimi vidiki uporabe UI in številnimi tveganji, ki jih ta prinaša, ugotavlja sogovornik. Sistemi UI brez stroge zaščite namreč odpirajo vrata poplavi morebitnih dezinformacij in sovražnemu govoru, obenem pa tudi zlonamerni kibernetski programski opremi ter biološkemu in kemičnemu terorizmu.
Večina naprednih držav in mednarodnih organizacij se ukvarja predvsem z etičnimi vidiki uporabe UI in številnimi tveganji, ki jih ta prinaša, ugotavlja Jaka Repanšek.
Foto: osebni arhiv
Na Oglaševalskem razsodišču, ki deluje v okviru Slovenske oglaševalske zbornice, so v letošnjem letu obravnavali tudi prvi primer pritožbe potrošnika na račun oglasov, deloma ali v celoti ustvarjenih s pomočjo UI. Ob tem se Repanšek sprašuje, ali tovrstni oglasi kršijo določbe (etičnega) oglaševalskega kodeksa in ali so sami po sebi zavajajoči. Je umanjkanje označbe v oglasih, da so ustvarjeni s pomočjo umetne inteligence, res lahko škodljivo za potrošnike?
Oglaševalsko razsodišče je sicer ugotovilo, da kršitev kodeksa oglaševanja ni bilo, in poudarilo, da bo treba v prihodnje večjo pozornost nameniti transparentnosti tovrstnega tržnega komuniciranja (in oglaševanja), kamor sodijo tudi pogovorni roboti kot sestavni, če ne celo nosilni del tržnega komuniciranja na številnih spletnih straneh slovenskih podjetij. »Možnosti, ki jih orodja umetne inteligence omogočajo pri manipulaciji, zavajanju in drugih nepoštenih praksah v oglaševanju, se z razvojem in uporabo umetne inteligence strmo povečujejo, o čemer pričajo tudi številni primeri tovrstnega oglaševanja v tujini,« opozarja Jaka Repanšek.
Učinkovita in verodostojna regulacija bo pripomogla k večjemu zaupanju v umetno inteligenco.
Predsednik Oglaševalskega razsodišča opozarja tudi na spremembe na področju avtorskih pravic. Predsedstvo Cisaca, mednarodne konfederacije društev avtorjev in skladateljev, je še pred sprejetjem okvirnega dogovora o aktu o UI pozvalo, da se v središče regulacije umetne inteligence postavi tudi ustrezna načela preglednosti in pravice ustvarjalcev.
Po Repanškovem mnenju bo učinkovita in verodostojna regulacija UI seveda pripomogla k večjemu zaupanju vanjo, vendar kompleksni zakonodajni postopki v EU vedno zaostajajo za tehnološkim razvojem in tudi v primeru akta o UI se zdi, da bo z dnem dokončne uveljavitve že potreben nove prevetritve. Glavnina razvoja in tehnoloških prebojev se namreč tudi danes odvija izven EU. Približno 40 odstotkov svetovnih investicij v UI imajo v ZDA, drugih 40 na Kitajskem; EU pa na globalni ravni predstavlja le približno sedem odstotkov investicij v sisteme UI, še navaja Jaka Repanšek.