Europoslanci schválili nové pravidlá pre používanie umelej inteligencie

Foto: Freepik

Pravidlá ako globálny ukazovateľ

Nové pravidlá, ktoré odobrili poslanci Európskeho parlamentu, majú zabezpečiť, aby umelá inteligencia bola bezpečná a rešpektovala základné práva platiace v krajinách Európskej únie. Za novinku hlasovala prevažná väčšina zákonodarcov (523), čo predstavuje 86 % všetkých europoslancov. Len menej ako 50 sa ich zdržalo a ďalších menej ako 50 hlasovalo proti schválenému návrhu.

Text nariadenia predstavuje kompromis medzi zástupcami Európskeho parlamentu, Európskou komisiou a belgickým predsedníctvom v Rade EÚ, ktoré zastupuje jednotlivé členské štáty Únie. Očakáva sa, že ​​Akt o umelej inteligencii bude pôsobiť ako globálny ukazovateľ pre ostatné vlády, ktoré v súčasnosti zápasia s tým, ako regulovať rýchlo sa rozvíjajúcu technológiu.

Technologické spoločnosti podporili aj lobovali

„Zákon o umelej inteligencii zacielil budúcnosť na človeka smerom, kde ľudia ovládajú technológiu a kde nám technológia pomáha využívať nové objavy, ekonomický rast, spoločenský pokrok a odomykať ľudský potenciál,“ povedal pred hlasovaním rumunský zákonodarca Dragos Tudorache, ktorý bol spoluvedúcim parlamentných rokovaní o návrhu zákona.

Potrebu regulovať umelú inteligenciu podporujú aj veľké technologické spoločnosti, ktoré sú najväčšími akcelerátormi jej vývoja a nasadzovania do praxe. Zároveň však intenzívne lobovali, aby zabezpečili, že nové pravidlá budú fungovať v ich prospech.

Len deň pred hlasovaním o novej európskej legislatíve sa v Bratislave konala konferencia ITAPA zameraná na umelú inteligenciu. Väčšina spíkrov sa zhodla na potrebe regulácie tejto rýchlo sa rozvíjajúcej technológie. Zároveň však dodali, že regulácia musí byť rozumná, aby „nezadusila inovácie, ktoré so sebou prináša“.

Väčšina systémov je nízkoriziková

Rovnako, ako mnohé nariadenia Európskej únie, zákon o umelej inteligencii bol pôvodne určený na to, aby pôsobil ako legislatíva v oblasti bezpečnosti spotrebiteľov, pričom k produktom alebo službám, ktoré využívajú umelú inteligenciu, zaujal „prístup založený na riziku“.

Platí, že čím rizikovejšia je aplikácia fungujúca na báze umelej inteligencie, tým väčšej kontrole čelí. Očakáva sa, že veľká väčšina systémov umelej inteligencie bude nízkoriziková, ako napríklad systémy odporúčaní obsahu alebo spamové filtre. Spoločnosti sa v ich prípade budú môcť rozhodnúť, že budú dodržiavať dobrovoľné požiadavky a kódexy správania sa.

Prísnejšie opatrenia a zakázané praktiky

Naopak, vysokorizikové použitie umelej inteligencie, napríklad v lekárskych zariadeniach alebo v kritickej infraštruktúre, ako sú vodné alebo elektrické siete, budú čeliť prísnejším požiadavkám, a to najmä v prípade používania vysokokvalitných údajov a poskytovanie jasných informácií používateľom.

Niektoré použitia umelej inteligencie budú dokonca úplne zakázané, pretože sú považované za neprijateľné riziko. Sú to napríklad systémy sociálneho bodovania, ktoré riadia správanie ľudí, niektoré typy prediktívnej kontroly a systémy rozpoznávania emócií v školách a na pracoviskách.

Medzi ďalšie zakázané použitia patrí policajné skenovanie tvárí na verejnosti pomocou diaľkových systémov „biometrickej identifikácie“ poháňaných umelou inteligenciou s výnimkou závažných trestných činov, ako sú únosy alebo terorizmus.

Posúdiť a zmierniť riziká

Tak, ako sa vyvíja umelá inteligencia, tak sa vyvíjala aj práve schválená legislatíva, ktorá ju má regulovať. Pôvodne mala slúžiť len na regulovanie špecifických úloh zameraných napríklad na skenovanie životopisov a žiadostí o zamestnanie. Rýchly nárast modelov umelej inteligencie na všeobecné použitie, ktorých príkladom je chatbot ChatGPT od spoločnosti OpenAI, však spôsobil, že tvorcovia politiky EÚ museli výrazne rozšíriť svoj legislatívny záber o množstvo ďalších aktivít a činností.

Pridali napríklad ustanovenia pre takzvané generatívne modely umelej inteligencie – technológiu podporujúcu systémy chatbotov, ktoré dokážu produkovať jedinečné a zdanlivo realistické odpovede, obrázky a ďalšie výstupy.

Vývojári modelov umelej inteligencie na všeobecné použitie od európskych startupov po OpenAI a Google tak budú musieť poskytnúť podrobné zhrnutie textu, obrázkov, videí a iných údajov na internete, ktoré sa používajú na školenie systémov, ako aj na dodržiavanie autorského práva v krajinách EÚ. Deep fake obrázky, video alebo zvuk existujúcich ľudí, miest alebo udalostí vygenerovaných umelou inteligenciou budú musieť byť označené ako umelo upravené.

EÚ sa obáva, že výkonné systémy, ako OpenAI GPT 4 či Gemini od Google, by mohli „spôsobiť vážne nehody, alebo byť zneužité na rozsiahle kybernetické útoky“. Obáva sa tiež, že generatívna umelá inteligencia by mohla rozšíriť „škodlivé názorové predsudky“ v mnohých aplikáciách, čo by mohlo ovplyvniť množstvo ľudí.

Spoločnosti, ktoré poskytujú tieto systémy, budú musieť posúdiť a zmierniť riziká – hlásiť všetky závažné incidenty, ako sú poruchy, ktoré spôsobia smrť niekoho alebo vážne poškodenie zdravia prípadne majetku, zaviesť opatrenia kybernetickej bezpečnosti a zverejniť, koľko energie spotrebujú ich modely.