Prečo je pri umelej inteligencii potrebné vnímať nielen vysoké tržby, ale aj možné riziká

Foto: Shutterstock

Nová technológia a prvé problémy

Prvé zmienky o chatbote ChatGPT sa objavili v čase doznievajúcej pandémie koronavírusu. Spoločnosť OpenAI predstavila svoju novú technológiu na sklonku roku 2022. Vyvinula ju ako pomocníka pre programátorov, študentov, ale aj bežných používateľov internetu s tým, že má potenciál stať sa konkurentom takmer bezkonkurenčného Googlu.

Nástroj fungujúci na báze rýchlo sa učiacej umelej inteligencie bol pôvodne vyvinutý na generovanie textov v podobe odpovedí na podnet či otázku. V priebehu niekoľkých týždňov sa stal doslova hitom internetu. Zakrátko na jeho základoch vzniklo množstvo rôznych aplikácií v rôznych odvetviach vrátane finančných služieb.

Práve tie boli medzi prvými, ktoré začali volať po regulácii novej technológie. Používanie ChatGPT zakázali najväčšie svetové banky, medzi nimi napríklad americká JPMorgan, a celkom pragmaticky ho zablokovala aj Čína.

Snaha o reguláciu jednorožca

O tom, že umelá inteligencia môže byť skvelý pomocník, ale nebezpečný pán začali tušiť tiež euroúradníci. Aj preto v apríli minulého roku zriadili pracovnú skupinu zaoberajúcu sa ochranou osobných údajov pri používaní umelej inteligencie (AI) a o mesiac nato vyrukovali s pracovnou verziou zákona o regulácii AI s cieľom obmedziť jej prípadné zneužitie, respektíve zabezpečiť jej transparentné používanie v praxi.

Reagovali tým na preteky, ktoré sa rozpútali po uvedení ChatGPT na trh a následné reakcie zo strany konkurenčných firiem, ktoré nechceli zostať pozadu. Ak sa zameriame iba na OpenAI, tak tej sa vlani podarilo takmer nemožné. Aplikáciu s chatbotom si len za prvé dva mesiace stiahlo viac ako 100 miliónov používateľov, čo sa dosiaľ ešte nikdy nestalo.

Samotná OpenAI len vlani získala od investorov kapitál presahujúci 14 miliárd dolárov, čo posunulo jej ocenenie cez hranicu 80 miliárd dolárov. Firma tak získala viac peňazí ako sedmička jej najväčších konkurentov dovedna. Zároveň sa po spoločnostiach ByteDance a SpaceX stala tretím najhodnotnejším „jednorožcom“ na svete, teda startupom, ktorého hodnota presiahla miliardu dolárov.

Partner témy

Obavy zo zneužitia umelej inteligencie

Úspech však nemôže zatieniť pochybnosti, ktoré vyvolávajú etické otázky kladené v súvislosti s využívaním umelej inteligencie v praxi, navyše keď spoločnosť vlani v novembri prišla o dvoch svojich lídrov. Predstavenstvo najprv prinútilo odísť zakladateľa firmy Sama Altmana, pričom v reakcii na to odišiel aj predseda správnej rady Greg Brockman a spolu s ním tiež niekoľko ďalších top manažérov.

Dôvodom na Altmanov odchod mala byť „neúprimná komunikácia“ s predstavenstvom firmy a strata dôvery v jeho schopnosti viesť ju aj naďalej. OpenAI si preto najala právnickú kanceláriu WilmerHale, aby vyšetrila, čo sa to v megaúspešnej a prudko rastúcej spoločnosti vlastne stalo.

Vyšetrovanie ukázalo, že konflikty majú korene napríklad aj v nezvyčajnej štruktúre riadenia OpenAI. Tá totiž bola založená ako nezisková organizácia s cieľom bezpečne budovať futuristickú umelú inteligenciu, ktorá pomáha ľudstvu, no veľmi rýchlo sa z nej stal expandujúci veľký podnik, pričom forma jej riadenia sa vôbec nezmenila.

Vyšetrovanie napokon ukázalo, že Altman sa nedopustil ničoho takého závažného, aby musel byť odvolaný z funkcie. Spoločne s G. Brockmanom sa preto vrátili naspäť na svoje pôvodné manažérske miesta. Napriek tomu tu však zostáva otázka, či takéto presuny na čelných pozíciách firmy, ktorá vyvíja najprogresívnejšiu technológiu súčasnosti, nie sú rizikom, pričom sa čoraz častejšie skloňujú obavy z možného zneužitia umelej inteligencie v neprospech jej tvorcov aj používateľov.

Mimochodom, právnická kancelária WilmerHale v OpenAI vo svojom vyšetrovaní pokračuje aj naďalej. Očakáva sa, že rozkryje všetky potenciálne hrozby vo firme, ktorá vďaka vývoju svojho technologického produktu môže mať zásadný vplyv na budúcnosť ľudstva. Iniciatívy viacerých autorít uznávaných naprieč krajinami a vednými odbormi naznačujú, že tento problém neradno podceňovať.