Používanie umelej inteligencie dostane pravidlá, štáty EÚ sa dohodli

Redakcia FinReport Publikované: 14.2.2024 Poslať

Krajiny združené v Európskej únii po mesiacoch rokovaní o transparentnom využívaní umelej inteligencie konečne našli spoločnú reč. Pravidlá bude upravovať zákon, ktorý ešte bude predmetom oficiálneho schvaľovania v Rade EÚ aj Európskom parlamente.

Foto: Freepik

Nové regulačné pravidlá

Nová technológia si vyžaduje nové regulačné pravidlá. Nastavenie pravidiel používania umelej inteligencie má sledovať vysokú dôveryhodnosť a etické kritériá, ktoré by boli v súlade so základnými právami a hodnotami členských krajín Únie.

„Európska únia našla zhodu na akte o umelej inteligencii (AIA), ktorý predstavuje dôležitý míľnik pre rozvoj umelej inteligencie na Slovensku. Tento právny rámec posilňuje dôveru a transparentnosť, a zároveň v najväčšej miere zohľadňuje naše špecifické potreby a záujmy. Verím, že AIA nám otvorí dvere k novým príležitostiam a inováciám, posilňujúc pozíciu našej digitálnej ekonomiky v európskom aj celosvetovom meradle,“ povedal štátny tajomník ministerstva investícií, regionálneho rozvoja a informatizácie SR Ivan Ivančin.

Čo bude úplne zakázané

Vo všeobecnosti pôjde o stanovenie záväzných pravidiel a požiadaviek pre systémy umelej inteligencie, akými sú napríklad vysoko rizikové systémy používané v kritických infraštruktúrach, zdravotníctve, doprave a orgánmi činnými v trestnom konaní. Tieto systémy budú podliehať prísnejším požiadavkám.

Niektoré typy použití umelej inteligencie, ako napríklad biometrická kategorizácia, vzdialená biometrická identifikácia v reálnom čase, využívanie kamerových systémov pri rozširovaní databáz tvárí, či rozpoznávanie emócií, budú dokonca úplne zakázané.

Partner témy

Tieto zákazy by sa mali týkať praktík, ktoré majú potenciál manipulovať s ľuďmi prostredníctvom podprahových techník, alebo zneužívať zraniteľné miesta určitých skupín, ako sú napríklad deti, s cieľom poškodiť ich fyzické alebo psychické zdravie.

Prevencia pred zneužívaním

„Okrem toho sa zavádzajú požiadavky na transparentnosť pre generatívne systémy umelej inteligencie, ktoré vytvárajú obsah alebo interagujú s ľuďmi, ako je napríklad ChatGPT. Tieto požiadavky majú zabezpečiť to, aby bolo jasné, že obsah bol vygenerovaný umelou inteligenciou a poskytnúť záruky proti generovaniu nelegálneho obsahu,“ pokračuje štátny tajomník.

Týmito opatreniami sa má zabrániť aj tomu, aby systémy umelej inteligencie nemohli byť použité pri rozhodovaní o prijatí do zamestnania alebo hodnotení žiadostí o štúdium, a tak neoprávnene diskriminovali ľudí na základe rasovej, etnickej, rodovej alebo iných charakteristík.

Kedy začnú platiť nové pravidlá

Niektoré ustanovenia aktu o umelej inteligencii chrániace občanov pred jej zakázaným používaním vstúpia do účinnosti už šesť mesiacov od jeho oficiálneho zverejnenia. Zvyšné ustanovenia začnú platiť po dvanástich (pravidlá pre modely so všeobecným účelom), prípadne dvadsiatich štyroch mesiacoch od zverejnenia. Samotná AIA ešte musí podstúpiť schvaľovanie v Rade Európy a v europarlamente.