Umelá inteligencia: Rozhodnú o našej budúcnosti fakty alebo tvorcovia sofistikovaných dezinformácií?

Ján Sípos 17.4.2023 Poslať

Slovensko patrí medzi krajiny, v ktorých majú konšpiračné teórie raj. Podľa sociológov sme uviazli v informačnom pekle. Prieskum organizácie Globsec zistil, že až 52 % Slovákov verí, že svet riadia tajné skupiny. Pre porovnanie v Dánsku verí týmto tvrdenia sotva 5 % obyvateľov Jutského polostrova. Slovenská polícia preto varuje, že situácia sa môže ešte zhoršiť, a to pre nástup umelej inteligencie.

Foto: Shutterstock

Polícia varuje pred problémom

Policajný zbor SR upozorňuje: „Umelá inteligencia môže predstavovať zásadný bezpečnostný problém. Na objednávku totiž dokáže vygenerovať nielen texty, ale aj obrázky či fotografie, ktoré nemajú nič spoločné s realitou.“

Hovorkyňa Prezídia Policajného zboru SR Karolína Barinková vysvetľuje: „Princíp v oboch prípadoch spočíva v zadaní príkazu umelej inteligencii, ktorá na základe vstupnej informácie vytvorí finálny produkt ušitý na mieru používateľa.“

Naratív o sfalšovaných voľbách

Policajný zbor informoval, že očakáva, že aj táto časť umelej inteligencie bude zneužívaná tvorcami dezinformácií. Vďaka modernému nástroju budú mať príležitosť manipulovať realitu a vytvárať si obrázky zo situácií, ktoré sa nikdy nestali. Analytici varujú, že medzi nimi môžu byť aj dezinformácie o prípadnom sfalšovaní blížiacich sa parlamentných volieb.

80338

Varujú aj svetové centrá expertízy

So slovenskou políciou súhlasia aj experti. Doteraz si totiž šírenie dezinformácií vyžadovalo značnú ľudskú námahu. Ale umelá inteligencia, ako je napríklad ChatGPT, by podľa správy z Georgetown University, Stanford Internet Observatory a OpenAI, zverejnenej v januári 2023, podstatne uľahčila takzvaným trolským armádam rozšíriť ich doterajšie operácie.

Sofistikované systémy na spracovanie jazyka, ako je chatbot ChatGPT, by mohli extrémne posilniť ich vplyv v rámci sociálnych médií prostredníctvom falošných účtov.

„Potenciál jazykových modelov konkurovať obsahu písanému človekom pri nízkych nákladoch naznačuje, že tieto modely, ako každá výkonná technológia, môžu poskytnúť výrazné výhody propagandistom, ktorí sa ich rozhodnú použiť,“ uvádza sa v správe amerických expertov.

„Tieto výhody by mohli rozšíriť prístup k väčšiemu počtu aktérov, umožniť nové taktiky vplyvu a urobiť posolstvo kampane oveľa prispôsobenejšie a potenciálne efektívnejšie,“ varuje správa.

Test už máme za sebou

Podobná kampaň sa totiž už spustila pred americkými voľbami v roku 2016. Tisíce účtov na Twitteri, Facebooku, Instagrame a YouTube, ktoré vytvorila Internetová výskumná agentúra so sídlom v Petrohrade, sa zamerali na poškodenie kampane Hillary Clintonovej a podporu Donaldovi Trumpovi. K tomuto výsledku dospeli nielen novinári, ale aj Senátny výbor pre spravodajstvo v roku 2019.

Umelá inteligencia zvýši kvantitu aj kvalitu

Systémy umelej inteligencie by podľa expertov mohli zlepšiť kvalitu dezinformačného obsahu, urobiť ho presvedčivejším a zároveň sťažiť rozpoznanie týchto správ pre bežných používateľov internetu, a to všetko v rámci koordinovaných dezinformačných kampaní.

Generatívne jazykové modely totiž dokážu produkovať veľké množstvo obsahu, ktorý je originálny, a propagandisti sa tak už nebudú musieť spoliehať len na kopírovanie a vkladanie stále rovnakého textu cez účty sociálnych médií. Nehovoriac o tom, že ak je platforma zaplavená nepravdivými informáciami, pre používateľov je náročné rozoznať, čo je v skutočnosti pravda a čo už nie.

Rovnako aj správa bezpečnostnej firmy WithSecure Intelligence varuje pred tým, ako môžu generatívne jazykové modely rýchlo a efektívne vytvárať falošné spravodajské články, ktoré by sa mohli šíriť cez sociálne médiá, a tak viac prispievať k záplave nepravdivých informácií a príbehov, ktoré by mohli ovplyvniť voličov pred rozhodujúcimi voľbami.

Apel na zastavenie vývoja umelej inteligencie

Pred nebezpečenstvom zneužívania umelej inteligencie varuje aj tisícka odborníkov. Dokonca žiadajú pozastaviť jej ďalší vývoj. Pod petíciou sú podpísaní napríklad Bill Gates, Elon Musk, ale aj spoluzakladateľ spoločnosti Apple Steve Wozniak či Evan Sharp z firmy Pinterest. Obávajú sa najmä modelu GPT-4 od spoločnosti OpenAI. Takýto pokročilý systém môže podľa nich bez silnej regulácie predstavovať nebezpečenstvo pre celú civilizáciu.

79598

Varovanie pred čiernou budúcnosťou

Pozornosť svetoznámeho fyzika Stephena Hawkinga sa upierala najmä k ďalekým hviezdam a čiernym dieram. Neušiel mu však ani vývoj v oblasti umelej inteligencie. Už v novembri 2017 totiž varoval pred jej nástupom.

„Vytvorenie funkčnej umelej inteligencie môže byť najväčšou udalosťou v dejinách našej civilizácie, alebo tou najhoršou. Preto nevieme, či nám umelá inteligencia nesmierne pomôže, alebo nás bude ignorovať, vytláčať či dokonca ničiť,“ povedal S. Hawking. Toto jeho vyjadrenie však neznamenalo v žiadnom prípade rezignáciu.

Vzápätí totiž dodal: „Nezabudnite sa pozerať na hviezdy, a nie na svoje nohy. Snažte sa pochopiť, čo vidíte, a premýšľajte o tom, čo udržuje vesmír v chode. Buďte zvedaví. A nech sa vám zdá život akokoľvek ťažký, vždy sa nájde niečo, čo môžete urobiť a v čom môžete uspieť. Dôležité je nevzdávať sa.“