Používanie umelej inteligencie dostane pravidlá, štáty EÚ sa dohodli

Foto: Freepik

Nové regulačné pravidlá

Nová technológia si vyžaduje nové regulačné pravidlá. Nastavenie pravidiel používania umelej inteligencie má sledovať vysokú dôveryhodnosť a etické kritériá, ktoré by boli v súlade so základnými právami a hodnotami členských krajín Únie.

„Európska únia našla zhodu na akte o umelej inteligencii (AIA), ktorý predstavuje dôležitý míľnik pre rozvoj umelej inteligencie na Slovensku. Tento právny rámec posilňuje dôveru a transparentnosť, a zároveň v najväčšej miere zohľadňuje naše špecifické potreby a záujmy. Verím, že AIA nám otvorí dvere k novým príležitostiam a inováciám, posilňujúc pozíciu našej digitálnej ekonomiky v európskom aj celosvetovom meradle,“ povedal štátny tajomník ministerstva investícií, regionálneho rozvoja a informatizácie SR Ivan Ivančin.

Čo bude úplne zakázané

Vo všeobecnosti pôjde o stanovenie záväzných pravidiel a požiadaviek pre systémy umelej inteligencie, akými sú napríklad vysoko rizikové systémy používané v kritických infraštruktúrach, zdravotníctve, doprave a orgánmi činnými v trestnom konaní. Tieto systémy budú podliehať prísnejším požiadavkám.

Niektoré typy použití umelej inteligencie, ako napríklad biometrická kategorizácia, vzdialená biometrická identifikácia v reálnom čase, využívanie kamerových systémov pri rozširovaní databáz tvárí, či rozpoznávanie emócií, budú dokonca úplne zakázané.

Partner témy

Tieto zákazy by sa mali týkať praktík, ktoré majú potenciál manipulovať s ľuďmi prostredníctvom podprahových techník, alebo zneužívať zraniteľné miesta určitých skupín, ako sú napríklad deti, s cieľom poškodiť ich fyzické alebo psychické zdravie.

Prevencia pred zneužívaním

„Okrem toho sa zavádzajú požiadavky na transparentnosť pre generatívne systémy umelej inteligencie, ktoré vytvárajú obsah alebo interagujú s ľuďmi, ako je napríklad ChatGPT. Tieto požiadavky majú zabezpečiť to, aby bolo jasné, že obsah bol vygenerovaný umelou inteligenciou a poskytnúť záruky proti generovaniu nelegálneho obsahu,“ pokračuje štátny tajomník.

Týmito opatreniami sa má zabrániť aj tomu, aby systémy umelej inteligencie nemohli byť použité pri rozhodovaní o prijatí do zamestnania alebo hodnotení žiadostí o štúdium, a tak neoprávnene diskriminovali ľudí na základe rasovej, etnickej, rodovej alebo iných charakteristík.