Akt o umetni inteligenci EU uvaja prvi celovit, na tveganju temelječ pravni okvir za umetno inteligenco z različnimi obveznostmi glede na stopnjo tveganja.
VIR: https://digital-strategy.ec.europa.eu/sl/policies/regulatory-framework-ai
https://eur-lex.europa.eu/legal-content/SL/TXT/HTML/?uri=OJ:L_202401689
BISTVO:
-
Akt o umetni inteligenci je prvi celovit pravni okvir za umetno inteligenco na svetu in je v EU zasnovan za varnost, temeljne pravice ter zaupanja vredno uporabo AI.
-
Ureditev temelji na štirih ravneh tveganja: nesprejemljivo tveganje, visoko tveganje, tveganje za preglednost ter minimalno ali brez tveganja.
-
Prakse z nesprejemljivim tveganjem so prepovedane, med njimi socialno točkovanje, določene biometrične uporabe, prepoznavanje čustev na delovnih mestih ter množično zbiranje obraznih podatkov.
-
Sistemi z visokim tveganjem morajo pred vstopom na trg izpolniti zahteve glede ocene tveganj, kakovosti podatkov, sledljivosti, dokumentacije, človeškega nadzora, robustnosti in kibernetske varnosti.
-
Generativna umetna inteligenca in drugi sistemi s potrebo po preglednosti morajo uporabnike obveščati o uporabi AI ter omogočiti prepoznavanje AI-vsebin, zlasti pri globokih ponaredkih in javno relevantnih vsebinah.
DEJSTVA:
-
Akt je povezan z uradnim pravnim sklicem Uredba (EU) 2024/1689.
-
Akt opredeljuje 4 ravni tveganja za umetnointeligenčne sisteme.
-
Med prepovedanimi praksami je navedenih 8 kategorij nesprejemljive uporabe.
-
Prepovedi za nesprejemljive prakse so začele veljati februarja 2025, pravila za modele splošnega namena avgusta 2025, pravila o preglednosti pa začnejo veljati avgusta 2026.